Kā noteikt, ka tekstu uzrakstījis neironu tīkls

Autors datus Bloomberg, aptuveni 30% speciālistu izmanto neironu tīklus teksta ģenerēšanai. Krievijā 67% aptaujāto vēlas pieteikties mākslīgā intelekta darbā, lai mazāk strādātu un nezaudētu ienākumus. Tieši šāda statistika priecē ne visus klientus. Daži neuzticas neironu tīkliem, tāpēc dod priekšroku tam, ka tekstus raksta nevis roboti, bet gan cilvēki.

Mēs saprotam, kāpēc klienti ir piesardzīgi pret tehnoloģijām un kādi līdzekļi neirotekstu eksponēšanai pastāv mūsdienās.

Kāpēc pret tekstiem no neironu tīkliem jāizturas piesardzīgi

Šeit ir minēti galvenie iemesli, kāpēc klienti ir piesardzīgi pret šādiem rakstiem.

Autortiesību pārkāpuma risks

Šodien nav oficiālas nostājas jautājumā par to, kurš piederēt autortiesības uz tekstiem, kas izveidoti ar AI palīdzību. Saskaņā ar likumu autors ir persona, kas rada darbu ar radošu vai intelektuālu darbu. Tomēr gadījumā, ja neironu tīkls cilvēki tikai dod norādījumus, bet paši neraksta.

Tā kā šobrīd likums neatzīst neirotekstus par autortiesību objektiem, tad tehnoloģiju radītā satura izmantošanas noteikumi ir noteikti neironu tīkla lietotāja līgumā.

Un ja OpenAI pārraida tiesības uz tekstu pat bezmaksas versijā, tad Gerwin robežas tā izmantošana politiskiem, diskriminējošiem mērķiem vai nelabvēlīgā reklāmā. Un iekšā pusceļš izmantot saturu komerciāliem nolūkiem Var tikai tad, ja produkts tiek ģenerēts pēc maksas.

Risks iegūt neunikālu vai neprecīzu informāciju

Neironu tīkls saņem pieprasījumu, iziet to caur algoritmiem, analizē pieejamo informāciju par tēmu un sniedz atbildi. Nenoliedzot, ka viens un tas pats cita lietotāja pieprasījums var radīt līdzīgu vai līdzīgu tekstu.

Un šeit nāk jaunas briesmas. Kornela universitātes pētnieki nāca klajā ar secinājums: ja neironu tīkla atbildes uz vienu un to pašu jautājumu ļoti atšķiras, tad ar lielu varbūtību tas nāk ar faktiem.

Risks, ka neiroteksti samazinās uzņēmuma resursus meklēšanas rezultātos

Pagājušā gada nogalē Google kvalitātes speciālists Dujs Ngujens deklarētska uzņēmumam ir izveidoti algoritmi izveidotā satura noteikšanai un pazemināšanai mākslīgais intelekts. Tāpēc daudzi baidās, ka meklētājprogrammas meklēs šādu saturu un pesimēs to. Tas ir, lai pazeminātu pozīciju meklēšanas rezultātos.

Precedenti jau pastāv. Piemēram, tirgotājs Nīls Patels iztērēja eksperimentsizveidojot 50 testa vietnes, kuras viņš sadalīja divās grupās. Eksperts aizpildīja pirmās daļas vietnes ar rakstiem, ko radījis tikai mākslīgais intelekts. Otrajā vietnē tika mitināti cilvēku modificēti mākslīgā intelekta raksti, kā arī materiāli, kurus rakstījuši tekstu autori, neizmantojot neironu tīklus.

Eksperimenta rezultāti parādīja, ka pirmās grupas resursi zaudēja vairākas pozīcijas meklēšanas rezultātos. Un tas noveda pie samazināt satiksme līdz 70%.

Vienlaikus Google pārstāvji piebilda, ka ir pozitīva attieksme pret neironu tīklu attīstību un jau ir izveidojuši savu Chatbot Bard. Bet uzņēmumam kvalitatīvi teksti ir prioritāte. Sistēma, kas sarindo rezultātus, vispirms piedāvā lietotājiem atbilstošos materiālus standartiem E-E-A-T (pieredze, kompetence, uzticamība, uzticamība).

Tiem atbilstošie teksti rada pārliecību un tiek uzskatīti par noderīgiem, jo ​​tajos ir piemēri, pieredze, analītiskā daļa un pētījumi. Un saturs, ko rada neironu tīkli, bez papildu dziļas pilnveidošanas no cilvēka puses, bieži vien nav tāds.

Tikmēr Valsts domē ieteikts ieviest marķēšanu materiāliem, kas izveidoti ar AI palīdzību. Kamēr tas nenotiek, nosakiet, ka teksts ģenerē neironu tīkls, tas būs jādara pašam. Vai ar speciālo dienestu palīdzību.

Kā patstāvīgi noteikt, ka tekstu uzrakstījis neironu tīkls

MIREA Tehnoloģiskā universitāte nesen notika eksperiments, kurā piedalījās 20 skolotāji un vairāk nekā 200 skolēnu. Puse no viņiem paši rakstīja zinātniskus rakstus. Un pārējie 50% izmantoja neironu tīklu palīdzību. Savukārt skolotājiem šādi AI materiāli bija jāaprēķina.

Lai to izdarītu, skolotāji pievērsa uzmanību teksta stilistiskajām un ortogrāfiskajām iezīmēm. Piemēram, lielam skaitam vārdu un nozīmju, kas atkārtojas, faktiskas un loģiskas kļūdas, oriģinālu spriedumu trūkums. Tādā veidā skolotāji varēja identificēt 96% darbu, kas uzrakstīts, izmantojot neironu tīklu. 4% skolēnu, kuri nebija pakļauti iedarbībai, atzina, ka viņi pavadīja daudzas stundas, rediģējot AI tekstu.

Nav universālas instrukcijas, kas palīdzētu aprēķināt neironu tīkla ģenerēto tekstu. Tomēr eksperiments parāda, ka šādiem materiāliem ir raksturīgi līdzīgi modeļi. Apsvērsim tos sīkāk.

Nozīmju un vārdu atkārtojumi

Viens no iemesliem, kāpēc vietne tiek pazemināta meklēšanas rezultātos, ir atslēgvārdu atkārtota optimizācija. Neironu tīkls, atbildot uz pieprasījumu, bieži “atbild aplī”. Dažreiz viņa izmanto dažādus gadījumus, bet nozīme joprojām tiek atkārtota.

Tātad tālāk esošajā ekrānuzņēmumā mākslīgajam intelektam tika uzdots uzrakstīt pārdošanas ziņu par jaunu, maigu matu krāsošanas veidu. Un nelielā tekstā neironu tīkls atkārtoti atkārtoja tās pašas tēzes.

Gandrīz katrs teikums ģenerēts teksts frāze "jauns krāsošanas veids" atkārtojas. Un arī atkārtota nozīmju dublēšanās par metodes drošību un individuālu pieeju, kas akcentēs katra klienta unikalitāti.

Šeit ir daži citāti no teksta, kas to ilustrē: "pārveidojiet savu tēlu un izsakiet savu individualitāti", "ņem vērā savu individualitāti", "piemērots jums", "radīt jums unikāls un stilīgs izskats", "padariet savu frizūru unikālu", "saglabājiet savu matu veselību un spīdumu", "drošs jūsu matiem", "rūpējieties par saviem matiem, tos saglabājot veselība".

Tikmēr pietika vienreiz pieminēt, ka salonā tika prezentēta jauna procedūra - taupīšana krāsošanas metodekas uzturēs matus dzīvus. Un arī paskaidrojiet, kā metode darbojas, kāds ir tās jaunums un kāpēc tā ir droša. Un piebilst, ka krāsu palete ir daudzveidīga, un apmācītie meistari ne tikai kvalitatīvi veiks krāsošanu, bet arī palīdzēs ar krāsas izvēli.

Liela skaita zīmogu un klišeju klātbūtne tekstā, maņu pieredzes trūkums

Krāsošanas piemērs arī parāda, ka neironu tīkls nevar atdarināt to, kā cilvēks runā reālajā dzīvē. Cilvēki aizzīmogo, lieto slengs un saīsinājumi, apzināti izkropļo vārdus. Šāda prezentācija palīdz piesaistīt uzmanību, izraisīt emocijas, nodot autora pozīciju, viņa maņu pieredzi.

Pētījumi šovs: neironu tīkls nedalās jūtās, nepieņem neviena nostāju. Tāpēc viņš dod priekšroku neitralitātei, klišejām un klišejām. Iepriekš minētajā piemērā tās ir "profesionālās prasmes", "augstas kvalitātes materiāli", "unikāla iespēja".

Tajā pašā laikā neironu tīkls ģenerē dažādu stilu tekstus. Piemēram, jūs varat dot viņai uzdevumu sagatavot materiālu par tēmu “Kas ietekmē izmaksas eļļa». Bet precizēt, ka teksts nav jāraksta sausā valodā, bet gan ar metaforu un salīdzinājumu piedevām. Tomēr rezultāts joprojām ir mākslīgs. Galu galā AI nav mēra, tas “nejūt” tekstu tā, kā to dara cilvēks.

Viena no rindkopām palīdzēs saprast, ka iegūto rezultātu nevar salīdzināt ar cilvēkam piemītošo intonāciju: “Pieprasījums un piedāvājums ir kā divu mīlētāju deja naftas tirgū. Ja naftas pieprasījums paceļas kā trakojošs okeāns, un, ja piedāvājums nesekmē līdzi, cenas kāpj kā šampanietis Jaungada ballē. Bet, ja pieprasījums samazinās un piedāvājums palielinās, tad cenas var kristies kā balons bērnu ballītē."

Teksts šķiet samākslots, un lielākā daļa pagriezienu tajā ir nevietā. Un, lai gan ieraksts patiešām izrādījās “nav sauss”, ir grūti iedomāties, ka eksperts būtu rakstījis šādi. Turklāt burtiski katrs teikums ir metafora un salīdzinājums. Tomēr šādiem paņēmieniem jābūt precīziem un glīti iestrādātiem tekstā. Pretējā gadījumā jēga tiks zaudēta aiz pārmērīga attēlu skaita.

Bezjēdzīgu frāžu klātbūtne un loģikas trūkums

Lingvists Noams Čomskis savā grāmatā Syntactic Structures atzīmē, ka gramatiski pareiza frāžu konstrukcija teikumā negarantē frāžu klātbūtni. loģika un nozīme. Kā piemēru eksperte minēja frāzi bezkrāsainas zaļas idejas nikni miega – "bezkrāsainas zaļas idejas nikni guļ".

Algoritmi palīdz neironu tīklam izveidot pareizus teikumus gramatikas ziņā. Tomēr AI nav jēdziena "nozīme". Un tai var būt sava loģika katrai rindkopai, jo materiāls tiek iegūts no dažādiem avotiem.

Piemēram, neironu tīklam tika lūgts ģenerēt atsauksmes par dušas želeju un treniņtērpu. Teksts par apģērbu izvērtās šāds: “Ar uzvalka palīdzību var atpūsties, iegrimt sporta pasaulē un arī doties pastaigā. Tam ir temperatūras kontrole, pateicoties kurai jūs jūtaties ērti jebkurā situācijā.

Un šeit ir atsauksme par dušas želeju: “Brīnišķīga želeja, neplūst, nenoslogo ādu. Iepakots maisiņā, kastē, ar vāku. Nav jāgaida nekas papildus, lai tas nedaudz sadrūp. Var izmantot kā nakts dušas želeju.

Dažas frāzes tajās labi uzbūvēts, bet tajā pašā laikā šķiet absurdi un atgādina Čomska ilustrāciju.

Struktūras trūkums un virspusēji piemēri

Mākslīgais intelekts sniedz acīmredzamu informāciju tekstos, vispārīgus faktus, izmanto racionālas frāzes un piemērus, kas jautājumu daudz neatklāj. Šajā gadījumā tēmas sarežģītībai nav nozīmes. Jautājums var būt dziļš, piemēram, par attīstības perspektīvām ieslēgumi Krievijā. Vai arī vienkāršāk un individuālāk attiecībā uz tehnikas izvēli.

Tekstā par iekļaušanu neironu tīkls stāstīja, cik šī tēma ir svarīga un aktuāla. Viņa arī piebilda, ka iekļaušana ir ilgs process, ko pavada grūtības, taču notiek darbs pie apstākļu radīšanas cilvēkiem ar īpašām vajadzībām. Un rezumējot: ja neapstāsies, tad attīstība noteikti būs.

Taču rakstītais neatbild uz jautājumu. Ir svarīgi, lai teksts būtu konkrēts. Piemēram, varat analizēt, kuri no pieņemtajiem likumiem darbojas un kuri ne, un kāpēc. Atklāt ārzemju pieredzi. Un paskaidrojiet, kādus konkrētus soļus valsts, bizness un katrs cilvēks vēl var spert, lai attīstītu iekļaušanu.

Tekstā par pērkot viedtālruniģenerē neironu tīkls, ir norādīti arī acīmredzamie atlases faktori. Piemēram: jums vajadzētu izlemt par operētājsistēmu (iOS vai Android), zīmolu, izlasīt atsauksmes un tehniskās specifikācijas, kā arī ņemt vērā savas iespējas.

Tomēr cilvēki to saprot. Cita lieta ir runāt par operētājsistēmu mikroshēmām, norādīt ierobežojumus, kas šobrīd pastāv. Vai arī minēt inovatīvus risinājumus – piemēram, eSIM tehnoloģiju, kas ļauj vienā viedtālrunī būt līdz pieciem cipariem. Vai arī kopīgojiet pārāk dārgus ierīču modeļus un to līdziniekus par labāko cenu.

Faktu sagrozīšana, izdomātas informācijas pievienošana

Neironu tīkls ticami atbild uz gandrīz jebkuru jautājumu, sniedzot hroniku, datumus, uzvārdus, izcelsmes vēsturi. Šajā gadījumā informācija tiek sagrozīta vai pilnībā izdomāta. Šādu kļūdu AI darbā sauc par halucinācijām.

Tātad neironu tīklam tika dots uzdevums pastāstīt par slaveno nedzirdīgie cilvēkikas deva lielu ieguldījumu sabiedrības attīstībā. Tā rezultātā AI izgudroja lielāko daļu no tiem.

Piemēram, astronauts Raimonds Lū vai bokseris Mario Gallegoss. Un 42. ASV prezidents joprojām nebija Metjū Klintons, bet gan Bils Klintons. Un viņš nezaudēja dzirdi.

Turklāt AI pārliecinoši atbildēja uz pieprasījumu “uzrakstiet ziņu par radošumu amnēzija». Lai gan tāda termina nav.

Uz jautājumu, kāpēc bots izdomā cilvēkus un runā par neesošiem terminiem, viņš tikai atvainojas par iespējamo neskaidrību.

Ja nepatiesi fakti ir savstarpēji saistīti ar patiesiem datiem, ir grūtāk noteikt neironu tīkla halucinācijas. It īpaši, kad tekoša lasīšana. Bet, ja koncentrējaties uz tekstā sniegtajiem piemēriem, varat pamanīt tos, kas izskatās aizdomīgi, un pārbaudīt tos, ierakstot tos meklēšanas joslā.

Trūkst aktuālas informācijas par aktuālajām izmaiņām, notikumiem

Neironu tīkli paši mācās komunicējot ar lietotājiem, atceroties cilvēka precizējumus, viņa reakciju uz ģenerēto saturu, piemērus, ko cilvēks dala ar botu. Eksperti atzīmējaka AI spēja pašam mācīties viņiem bija pārsteigums. Un šī prasme palīdz uzlabot neironu tīklus.

Kurā mašīnmācība, ko veic izstrādātāji par datu gigabaitiem - rakstiem, grāmatām, tekstiem no tīmekļa - ir skaidrs sākums un beigas. Un būtībā neironu tīkliem nav piekļuves meklētājprogrammām. Tāpēc informācija, kas parādījās pēc izstrādātāju vadītajām apmācībām, AI nav pieejama līdz nākamajam posmam.

Tajā pašā laikā intervāls starp mašīnmācīšanos ir mēneši un dažreiz gadi. Protams, progress nestāv uz vietas: piemēram, šī gada maijā GPT Plus kļuva pieejams lietotājiem ar maksas abonementu ChatGPT ar piekļuvi internetam. Tomēr lielākajai daļai neironu tīklu, īpaši to bezmaksas versijām, šādas iespējas vēl nav.

Tātad ChatGPT4 bezmaksas versijas bāze ir ierobežota līdz 2021. gadam, tāpēc robots nezina, kurš uzvarēja pēdējo Pasaules kausu 2022. gadā. Un Google neironu tīkls – Bard AI – atzina, ka nevar sacerēt tekstu par nozīmīgiem notikumiem, kas šovasar risinājušies pasaulē.

Kopš viņas pēdējo apmācību izstrādātāji vadīja 2023. gada maijā, Bard AI vasara vēl nav pienākusi.

Šādos gadījumos neironu tīkli parasti nenāk klajā ar faktiem, bet atzīst, ka nevar "prognozēt nākotni».

Ja tekstā nav aktuālas informācijas par tēmu vai tas izskatās atrauts no realitātes, jo pēdējā laikā daudz kas ir mainījies, tad pastāv iespēja, ka materiāls ir rakstīts ar neironu tīklu.

Kādi pakalpojumi var palīdzēt

Mākslīgā intelekta ģenerēto tekstu var atpazīt arī, izmantojot pašu neironu tīklu. Piemēram, tā var bot GPT-4. Var palīdzēt arī īpašie pakalpojumi, kas var noteikt AI algoritmus. Apskatīsim dažus no tiem zemāk.

1. Text.ru. Vietne ir pozicionēta kā tekstu rakstīšanas un pretplaģiāta apmaiņa. Bet nesen portālā parādījās algots neiro-asistents. Viena no tā funkcijām ir AI detektors. Pārbaudāmais teksts ir jāielādē logā. Pēc dažām sekundēm sistēma parādīs rezultātu.
2. PR CY. Pakalpojumā varat augšupielādēt tekstus no 1000 rakstzīmēm. Tajā pašā laikā portālā ir precizējumi: nekvalitatīvas, surogātpasta iespējas, kuras cilvēks uzrakstījis, sistēma uzskatīs par AI darba rezultātu. Kā arī teksti ar košu stilistisku krāsojumu – piemēram, līdzīgiem darbiem Majakovskis.
3. GPTZero. Rīks nolasa teikumu sarežģītību, vārdu kombināciju, struktūru un garumu. Taču, ja serviss labi tiek galā ar tekstiem angļu valodā, tad ielādējot krievvalodīgos materiālus tas nereti dod kļūdu. No priekšrocībām - bezmaksas versijas klātbūtne.

Neironu tīkls var būt lielisks palīgs. Piemēram, meklējot idejas. Tomēr pilnībā uzticēties viņas saturam ir bīstami. Izturieties pret AI materiāliem atbildīgi: rediģējiet surogātpastu, pārbaudiet precizitāti, loģiku un faktu atbilstību. Un pielāgojiet stilu "cilvēciskajai" valodai, lai nebaidītu auditoriju, saglabātu uzņēmuma reputāciju un pozīciju meklēšanas rezultātos.