Google пообещал бороться с «токсичностью» и «предвзятостью» в ИИ
Об этом рассказал вице-президент отдела по этике Джеймс Маника. По его словам, в компании планируют ограничить возможности искусственного интеллекта, чтобы тот не проявлял «токсичность» или «несправедливую предвзятость». Маника подчеркнул, что к цензуре ИИ-разработок планируют привлекать и государство.
По словам вице-президента отдела, в Google планируют цензурировать некоторые ответы с помощью «состязательных проверок». Например, сотрудники узнали, что чат-бот Bard готов обсуждать с пользователями «фейковость» высадки американцев на Луну. В компания вручную изменила ответы бота, и теперь тот сразу заявляет, что астронавты действительно побывали на спутнике Земли.
Об этом рассказал вице-президент отдела по этике Джеймс Маника. По его словам, в компании планируют ограничить возможности искусственного интеллекта, чтобы тот не проявлял «токсичность» или «несправедливую предвзятость». Маника подчеркнул, что к цензуре ИИ-разработок планируют привлекать и государство.
По словам вице-президента отдела, в Google планируют цензурировать некоторые ответы с помощью «состязательных проверок». Например, сотрудники узнали, что чат-бот Bard готов обсуждать с пользователями «фейковость» высадки американцев на Луну. В компания вручную изменила ответы бота, и теперь тот сразу заявляет, что астронавты действительно побывали на спутнике Земли.
