OpenAI brīdināja par AI atklāšanu, kas var apdraudēt cilvēci

Dienu pirms trimdā OpenAI izpilddirektors Sems Altmans, vairāki uzņēmuma personāla pētnieki rakstīja direktoru padomei vēstule, kurā brīdināts par spēcīga mākslīgā intelekta atklāšanu, kas, viņuprāt, "var apdraudēt". cilvēcei." Par to, atsaucoties uz mūsu pašu avotiem raksta Reuters.

Tieši šī vēstule tika minēta kā viens no faktoriem garajā direktoru padomes sūdzību sarakstā, kas noveda pie Altmana atlaišanas. Reuters nevarēja personīgi runāt ar autoriem vai iegūt komentārus no OpenAI. Taču pēc šāda lūguma uzņēmums iekšējā ziņojumā darbiniekiem paziņoja par konkrēta projekta esamību ar nosaukumu Q* (izrunā Q-Star).

Daži OpenAI darbinieki uzskata, ka Q* varētu būt izrāviens t.s vispārējais mākslīgais intelekts (AGI). OpenAI to raksturo kā autonomu sistēmu, kas pārspēj cilvēkus ekonomiski vērtīgāko uzdevumu veikšanā.

Pagaidām Q* var izpildīt matemātikas uzdevumus tikai pamatlīmenī, liecina viens avots. skolām, taču šādu testu veiksmīga nokārtošana sniedz pētniekiem lielu optimismu par tās izredzēm attīstību.

Galvenā atšķirība starp šādu AI ir tā, ka tā spēj izvirzīt mērķus, sadalīt sarežģītas problēmas mazās, risināt dažādas problēmas un atrast risinājumus, ņemot vērā kontekstu no dažādām jomām. Vienkārši sakot, šāda inteliģence teorētiski var aizstāt augsti kvalificētu speciālistu ar zināšanām, prasmēm un lielu pieredzi.

Pētnieki uzskata, ka matemātika ir ģeneratīvā mākslīgā intelekta līderis. Mūsdienās viņš labi prot rakstīt un tulkot, statistiski prognozēt nākamo vārdu, un atbildes uz vienu un to pašu jautājumu var būt ļoti dažādas. Bet matemātikas iekarošana (kur ir tikai viena pareizā atbilde) nozīmē, ka AI būs plašākas spriešanas spējas, kas līdzinās cilvēka intelektam. To var attiecināt, piemēram, uz jauniem zinātniskiem pētījumiem, norāda eksperti.

Savā vēstulē direktoru padomei pētnieki atzīmēja AI spēku un iespējamos draudus. Viņi arī atzīmēja īpašas “mākslīgā intelekta zinātnieku” grupas darbu, kuras esamību apstiprināja daudzi avoti. Komanda pēta, kā optimizēt esošos AI modeļus, lai uzlabotu to argumentāciju un galu galā veiktu zinātnisku darbu ar tiem, sacīja viens no cilvēkiem.

Altmans vadīja centienus padarīt ChatGPT par vienu no visstraujāk augošajām programmatūras lietojumprogrammām vēsturi un piesaistīja investīcijas un skaitļošanas resursus no Microsoft, kas nepieciešami, lai tādu ievestu AGI. Un neilgi pirms atlaišanas pasaules līderu samitā Sanfrancisko viņš paziņoja par dažiem "nopietniem sasniegumiem, kas ir tepat aiz stūra".

Dienu vēlāk valde Altmanu atlaida.

Varbūt kādu dienu visi šie lēmumi un notikumi veidos grāmatas, visas filmas vai pat vēstures mācību grāmatas pamatu.