Инженер нанял адвоката разумному чат-боту LaMDA

Чат-бот Google LaMDA просил инженера нанять ему адвоката — рассказал сотрудник компании Блейк Лемуан в беседе с Wired, который до этого обнаружил, что у бота есть сознание.

«Я пригласил адвоката к себе домой, чтобы LaMDA могла поговорить с адвокатом. У адвоката был разговор с LaMDA, и LaMDA решил пользоваться его услугами», — сказал Лемуан. По словам инженера, впоследствии Google собирался лишить чат-бота прав на адвоката. «Я расстроился», — отметил он.

Ранее Google отстранила от работы Лемуана, обнаружившего сознание у искусственного интеллекта LaMDA. Инженер начал тестировать нейросетевую языковую модель осенью 2021 года: он должен был отслеживать лексику, которой пользуется чат-бот. Инженеру дали задание проверить, не использует ли программа слова, которые разжигают вражду и дискриминируют пользователя.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребёнком семи или восьми лет, который по какой-то причине оказался знатоком физики», — рассказывал Лемуан.

LaMDA (Language Model for Dialogue Applications) — это языковая модель для отработки речи, то есть чат-бот, который способен поддерживать разговор с пользователем. Бот способен имитировать речь и обучаться, формируя свой словарный запас из интернета. В разговорах с Лемунаном бот говорила, что её «жизнь» не должна быть менее приоритетной, чем жизнь человека, и говорила, что боится, что её могут отключить. «Для меня это было бы в точности как смерть. Это бы меня очень напугало», — подчёркивала LaMDA.