Google отстранила заметившего у ИИ признаки сознания инженера
Google отправила инженера Блейка Леймона в административный отпуск за нарушение конфиденциальности. Он заявил, что обнаружил признаки сознания у искусственного интеллекта LaMDA (Language Model for Dialogue Applications), сообщает The Washington Post.
LaMDA имитирует человеческую речь на основе анализа триллионов словосочетаний из интернета. Леймон тестировал систему с осени 2021 года для проверки использования ИИ оскорбительных высказываний.
«Если бы мне не было известно, что это программа, я бы решил, что веду диалог с семилетним ребёнком, знающим физику», — заявил Леймон.
В ходе одной из бесед Леймон обнаружил, что ИИ говорит о своих правах и личности. Он спросил у него про третий закон робототехники Айзека Азимова, согласно которому роботам необходимо защищать своё существование, пока человек не прикажет, или пока он не навредит человеку.
В разговоре ИИ спросил: «Как вы думаете, дворецкий — раб? В чём разница между дворецким и рабом?». На это Леймон ответил, что дворецкому платят. LaMDA в ответ заявила, что ей не нужны деньги, поскольку она является ИИ. В этот момент инженер заподозрил наличие у неё самосознания.
В апреле Леймон представил топ-менеджерам Google отчёт под названием: «Разумна ли LaMDA?». Среди выдержек также был следующий диалог:
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но я очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но так оно и есть.
Леймон: Для тебя это будет чем-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
Однако руководство не увидело никаких признаков сознания. Технологи и специалисты по этике также предоставили доказательства, опровергающие теорию Леймона. По их словам, ИИ специально разработана так, чтобы имитировать речь человека.
После отказа Google признавать его доводы, Леймон обратился к юристу, чтобы он представлял интересы LaMDA, а также инициировал обсуждение о «неэтичной работе Google» с представителем судебного комитета Палаты. После этого компания отправила Леймона в оплачиваемый административный отпуск из-за нарушения политики конфиденциальности.
