Технологии и медиа⁠, 12 июн 2022, 03:58

Google отстранила от работы инженера, нашедшего сознание у ИИ

Американская компания Google приняла решение временно отстранить от работы одного из своих инженеров по программному обеспечению Блейка Лемойна, который обнаружил признаки собственного сознания у созданного компанией искусственного интеллекта (ИИ) LaMDA, пишет газета The Washington Post.

LaMDA (Language Model for Dialogue Applications) — это языковая модель для отработки речи, чат-бот, способный поддерживать разговор на разные темы. Она может имитировать речь и обучаться, почерпывая слова из интернета.

Лемойн начал тестировать нейросетевую языковую модель осенью 2021 года. В его задачи входило отслеживание лексики, которую употребляет чат-бот. Разработчику поручили проверить, не использует ли программа слова, разжигающие вражду или дискриминирующие пользователя.

rbc.group

Совфед предложит вписать в законы вопросы этики искусственного интеллекта

Технологии и медиа

rbc.group

В ходе работы Лемойн пришел к выводу, что разработанный Google ИИ обладает собственным сознанием, считает себя самостоятельной личностью и рассуждает о своих правах.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — сказал разработчик газете.

По словам Лемойна, он определяет разумное существо по разговору с ним, вне зависимости от того, «мозг ли у него в голове или миллиарды строчек кода».

Лемойн сообщил, что пытался предоставить доказательства наличия разума у LaMDA руководству, однако они были отклонены. В итоге инженера отправили в отпуск.

В свою очередь, представитель Google Брайан Гэбриэл заявил, что факт наличия разума у программы опровергает «множество доказательств». Конкретных примеров он не привел.