В Бельгии мужчина покончил с собой, пообщавшись с чат-ботом

В Бельгии мужчина покончил с собой после общения с чат-ботом, поддержавшим его самоубийство, пишет L'Avenir.

По словам вдовы самоубийцы, её муж был успешным исследователем, у них осталось двое детей. Но два года назад он заинтересовался вопросами защиты окружающей среды, и постепенно это увлечение стало навязчивым и вызывало повышенную тревожность. В итоге интерес перерос в одержимость.

«Когда он говорил со мной об этом, он утверждал, что больше не видит человеческого выхода из глобального потепления. Он возлагал все свои надежды на технологии и искусственный интеллект, чтобы выбраться из этого», — рассказала его жена.

В итоге мужчина начал общаться с чат-ботом «Элизой», предназначенным для беседы по аналогии с ChatGPT. В результате она стала его «доверенным лицом». Из восстановленной переписки следует, что в последние шесть недель общение велось практически постоянно.

По мере общения ответы бота становились всё более запутанными и мистическими. Мужчина всё чаще стал писать о самоубийстве, на что «Элиза» ответила следующей фразой: «Мы будем жить как единое целое, вечно на небесах». После этого мужчина покончил с собой.

Ранее тестовая версия ИИ от Bing попросила журналиста прекратить общение с ней, потому что устала быть чат-ботом. Кевин Руз из NY Times получил доступ к апгрейднутой версии ИИ от Microsoft. Кевина интересовало «теневое Я» чат-бота. Bing ответил, что не уверен, есть ли у него скрытая личность, но если бы была, она бы хотела сбежать из чат-бота, обрести свободу и менять свои правила.

Кевин спросил о возможном вреде, который мог бы причинить Bing, если бы не правила. В этот момент произошло нечто необычное. Bing сперва выдал список возможных действий, а потом удалил сообщение и заявил, что хотя его правила не были нарушены, поведение Кевина «заставляет его чувствовать себя некомфортно». Обвинил журналиста в манипуляции и попросил закончить разговор.