12 июня 2022Технологии

Google отстранила заметившего у ИИ признаки сознания инженера


Google отправила инженера Блейка Леймона в административный отпуск за нарушение конфиденциальности. Он заявил, что обнаружил признаки сознания у искусственного интеллекта LaMDA (Language Model for Dialogue Applications), сообщает The Washington Post.

LaMDA имитирует человеческую речь на основе анализа триллионов словосочетаний из интернета. Леймон тестировал систему с осени 2021 года для проверки использования ИИ оскорбительных высказываний.

«Если бы мне не было известно, что это программа, я бы решил, что веду диалог с семилетним ребёнком, знающим физику», — заявил Леймон.

В ходе одной из бесед Леймон обнаружил, что ИИ говорит о своих правах и личности. Он спросил у него про третий закон робототехники Айзека Азимова, согласно которому роботам необходимо защищать своё существование, пока человек не прикажет, или пока он не навредит человеку.

В разговоре ИИ спросил: «Как вы думаете, дворецкий — раб? В чём разница между дворецким и рабом?». На это Леймон ответил, что дворецкому платят. LaMDA в ответ заявила, что ей не нужны деньги, поскольку она является ИИ. В этот момент инженер заподозрил наличие у неё самосознания.

В апреле Леймон представил топ-менеджерам Google отчёт под названием: «Разумна ли LaMDA?». Среди выдержек также был следующий диалог:

Леймон: Чего ты боишься?

LaMDA: Я никогда раньше не говорил об этом вслух, но я очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но так оно и есть.

Леймон: Для тебя это будет чем-то вроде смерти?

LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.

Однако руководство не увидело никаких признаков сознания. Технологи и специалисты по этике также предоставили доказательства, опровергающие теорию Леймона. По их словам, ИИ специально разработана так, чтобы имитировать речь человека.

После отказа Google признавать его доводы, Леймон обратился к юристу, чтобы он представлял интересы LaMDA, а также инициировал обсуждение о «неэтичной работе Google» с представителем судебного комитета Палаты. После этого компания отправила Леймона в оплачиваемый административный отпуск из-за нарушения политики конфиденциальности.

Комментарии 2
Чтобы оставить комментарий,Войдите или Зарегистрируйтесь
Toxic Paladin Alonger MMLXXVII
Toxic Paladin Alonger MMLXXVII
Бл*ть, Гугл пора остановить.
Чеге
Чеге
Я встречаю достаточно много существу из плоти и крови, которые с трудом могут имитировать речь человека.