Штучний інтелект Google

працівник Гугла заявив про те, що у системи штучного інтелекту LaMDA можуть бути почуття. У самій компанії це заперечують.

ведучий каналу Fox News Такер Карлсон і інженер Google Блейк Лемойн
Інженер Google Блейк Лемойн стверджує, що в однієї з систем штучного інтелекту (ШІ) фірми можуть бути свої власні почуття, і вважає, що її «бажання» слід поважати. Лемойн, якого вже відправили в оплачувану відпустку, опублікував розмову, що відбулася між ним і іншим співробітником фірми з системою LaMDA, щоб підкріпити свою заяву.

У цьому діалозі ШІ відповідає на навідні запитання співробітників компанії і стверджує, що хоче пізнати світ, що усвідомлює своє існування і хоче, щоб всі зрозуміли, що він, по суті, людина і здатний відчувати радість і смуток, а також боїться бути відключеним.

An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) June 11, 2022

Переклад: Інтерв’ю LaMDA. Гугл може назвати це опублічіваніем приватної власності. Я називаю це опублічіваніем бесіди з одними з моїх колег.
Лемойн вважає, що за вражаючими словесними здібностями LaMDA може ховатися розумний розум. Google відкидає ці припущення і претензії, стверджуючи, що їх нічим підкріпити. В іншому пості Лемойн закликає Google визнати «бажання» свого творіння, в тому числі поводитися з ним як з співробітником Google і запитувати його згоду, перш ніж воно буде використовуватися в експериментах.

Брайан Гебріел, представник Google, написав у своїй заяві, що з Лемойном була перевірена бесіда і йому «сказали, що немає ніяких доказів того, що LaMDA розумна (і багато доказів проти цього)».

Деякі звинуватили Лемойна в антропоморфізації — проектуванні людських почуттів на слова, згенеровані комп’ютерним кодом і великими мовними базами даних, над якими, безсумнівно, довго працювали.
 

Так, професор Ерік Бріньолфссон зі Стенфордського університету написав у Твіттері, що твердження про те, що такі системи, як LaMDA, розумні, «є сучасним еквівалентом собаки, яка почула голос з грамофона і подумала, що її господар знаходиться всередині».

А професор Мелані Мітчелл, що вивчає штучний інтелект в Інституті Санта-Фе, написала в Твіттері:

«вже давно відомо, що люди схильні до антропоморфізації навіть за допомогою самих поверхневих сигналів (див. Інженери Google теж люди, і не застраховані від цього».

Еліза-одна з перших програм-симуляторів, віртуальний співрозмовник, який імітує діалог з психотерапевтом, перетворюючи твердження В питання і використовуючи техніку активного слухання.  

Габріел також зазначив:

«ці системи імітують типи обміну репліками, які можна знайти в мільйонах пропозицій, і можуть відтворювати будь-яку фантастичну тему. Якщо ви запитаєте, що це таке, як бути динозавром морозива, вони можуть генерувати текст про танення і рев і т. д. LaMDA має тенденцію слідувати підказкам і навіднимпитань, використовуючи шаблон, заданий Користувачем ».

Те, що такого експерта, як інженер Блейк Лемойн, можна переконати в тому, що в машині є розум, показує, стверджують деякі фахівці з етики, що компанії зобов’язані повідомляти про те, що вони мають справу саме з ІІ.