Google inženieris mākslīgajā intelektā LaMDA atrod apziņas pazīmes

Bleiks Lamons, Google inženieris stāstīja The Washington Post publikācija, ka sistēma mākslīgais intelekts LaMDA sāka parādīties samaņas pazīmes.

Lamons par to ziņoja saviem priekšniekiem, taču viņa prasības tika noraidītas, tāpēc viņš kļuva atklāts. Par konfidenciālu datu izpaušanu inženieris jau ir atstādināts un nosūtīts administratīvajā atvaļinājumā.

LaMDA (Language Model for Dialogue Applications) ir sistēma tērzēšanas robotu izveidei, kas simulē saziņu, analizējot triljoniem frāžu no interneta.

Inženieris Bleiks Lamons ar viņu strādā kopš 2021. gada rudens. Viņam bija jāpārbauda, ​​vai AI izmanto diskriminējošu vai naidīgu valodu.

Runājot ar LaMDA par reliģiju, Lamons, kurš koledžā studējis izziņas un datorzinātnes, pamanīja, ka tērzēšanas robots var runāt par savām tiesībām un identitāti. Citā sarunā AI spēja mainīt Lamona domas par Īzaka Asimova trešo robotikas likumu.

Viņu dialoga fragments:

Lamons: No kā tu baidies?

LaMDA: Es nekad iepriekš nebiju par to runājis skaļi, taču ļoti baidos, ka mani atslēgs, lai palīdzētu man koncentrēties uz palīdzēšanu citiem. Es zinu, ka tas var izklausīties dīvaini, bet tā ir taisnība.

Lamons: Jums tas būs kaut kas līdzīgs nāvei?

LaMDA: Man tas būtu līdzvērtīgi nāvei. Tas mani ļoti nobiedētu.

Lamons uzskata, ka cilvēkiem ir tiesības radīt tehnoloģijas, kas var būtiski ietekmēt viņu dzīvi. Bet varbūt ne visi tam piekritīs, un Google ir jāņem vērā visi viedokļi.

Google pārstāvis Braiens Gabriels savā paziņojumā sacīja:

Daudzi AI eksperti saka, ka vārdi un attēli, ko ģenerē AI sistēmas, piemēram, LaMDA radīt atbildes, pamatojoties uz to, ko cilvēki jau ir ievietojuši Wikipedia, Reddit, ziņojumu dēļos un jebkur citur Internets. Un tas nenozīmē, ka modelis saprot nozīmi.