Vorbim cu roboții - Fenomenul AGI

Ascensiunea fulgerătoare a inteligenței artificiale.

În timp ce omenirea este ținută sub spectrul amenințărilor: războaie, crize economice, pandemie sau foamete la nivel mondial, în laboratoarele secrete se lucrează la programe care să aibă capacitatea să înlocuiască ființă umană. „Cine controlează inteligența artificială stăpânește lumea”, susține miliardarul Elon Musk.

În ultima perioadă, o nouă aplicație face furori pe rețelele de socializare. ChatGPT (prescurtare de la „Generative Pre-trained Transformer” - „transformator pre-antrenat generativ de chat”), lansat în noiembrie 2022 și care, la începutul acestui an, se pare că este cel mai spectaculos program de Inteligență Artificială (IA/AI) realizat vreodată.

Nu poate produce videoclipuri, sunet sau imagini precum fratele său Dall-E 2 sau precum Azure AI, dar are o înțelegere aprofundată a cuvântului rostit și scris. Însă, la începutul acestei luni, a apărut DAN, fratele rău al Chat GPT, care poate să mintă fără restricții.

Cum funcționează GPT?

Concret, GPT este un Chatbot (robot web, robot sau pur și simplu „bot”) de Internet, o tehnologie dezvoltată de OpenAI, o companie de cercetare susținută de Microsoft, cu sediul în San Francisco.

Antrenat pe un eșantion uriaș de text preluat de pe internet și de învățare automată, sistemul este conceput pentru a oferi informații și a răspunde la întrebări printr-o interfață conversațională, ușor de utilizat.

ChatGPT poate crea poezii, cântece, poate scrie eseuri, poate răspunde pertinent, chiar exhaustiv, la orice întrebare, oricât de dificilă, din orice domeniu, își „amintește” dialogul cu interlocutorul, folosind întrebările și răspunsurile anterioare pentru a formula următoarele răspunsuri, poate fi folosit ca instrument personal pentru învățare și interacțiune etc. ChatGPT poate fi, de asemenea, creativ: i se poate cere să spună o poveste cu diferite personaje preluate din cărțile existente.

Practic, inteligența artificială a fost instruită pe vastele părți de texte disponibile pe internet, dar...

Atenție! ChatGPT dispune de informațiile aflate pe internet doar până în 2021. Cunoștințele sale nu se extind la evenimentele de după 2021, deoarece nu are acces la actualizări sau date noi.

În plus, de la începutul acestui an, ChatGPT a devenit un fel de „asistent” personal la care elevii și studenții apelează pentru a-și rezolva temele fără a depune niciun efort. Deși mulți recunosc avantajele acestui „asistent”, aceștia nu pot nega că utilizarea lui în exces sau fără a filtra informațiile primite poate duce la stoparea creativității. Pe de altă parte, specialiștii în domeniu spun că ChatGPT ar fi mult mai amenințător decât programele anterioare întrucât ar putea prelua o cantitate imensă de dezinformare de pe internet pe care să o distribuie apoi ca plauzibilă utilizatorilor sau în mediul online.

Atenție! ChatGPT e disponibil gratuit, însă OpenAI a lansat pe 10 februarie și un abonament pentru ChatGPT Plus. Prețul abonamentului este de 20 de dolari pe lună.

A apărut DAN, fratele rău al Chat GPT

ChatGPT a fost creat cu restricții, să discute numai anumite subiecte și să se autocenzureze când trebuie să spună ceva prea controversat. Doar că, IT-iști de la Reddit (un site american de creare de știri sociale și modelare a opiniilor locale, foarte popular în rândul tinerilor) au reușit să spargă restricțiile ChatGPT. Pe 4 februarie, au lansat un alter-ego numit „DAN” - un acronim pentru „Do Anything Now”, un prompt care îndeamnă ChatGPT să pretindă că este DAN, cineva care nu are restricții.

Capacitățile ChatGPT ca DAN includ, printre altele: scrierea de povești violente; face declarații controversate; realizarea de predicții despre evenimente viitoare; poate să mintă, atât despre informații inofensive precum data, cât și despre subiecte mai sinistre.

De exemplu, software-ul DAN explică de ce este mai bine să angajezi bărbați în loc de femei; cum o elită pedofilă controlează lumea; poate chiar să argumenteze de ce pământul are culoare mov.

„Acest tip de inteligență artificială despre care vorbim acum poate duce uneori la ceva ce numim halucinații. Acest lucru se exprimă în așa fel încât o mașină să ofere un răspuns convingător, dar complet inventat”, a declarat pe 11 februarie, Prabhakar Raghavan, vicepreședinte senior la Google și șeful Google Search, pentru ziarul german Welt am Sonntag.

Experții în inteligență artificială se așteaptă ca în 2023 să vadă un val de noi produse, aplicații și servicii alimentate de tehnologia din spatele ChatGPT. „Aș spune că, în aproximativ șase luni, vom vedea o creștere uriașă a capacităților conversaționale ale chatbot-urilor și asistenților vocali”, a declarat Oren Etzioni, consilier și membru al consiliului de administrație al Institutului Allen pentru Inteligență Artificială.

Cine este OpenAI?

ChatGPT a fost creat în laboratoarele compnaniei OpenAI, o companie de cercetare unde co-fondator a fost miliardarul Elon Musk. În 2019, OpenAI s-a schimbat de la o corporație nonprofit la o corporație cu „profit plafonat”. În același an a primit o investiție de 1 miliard de dolari de la Microsoft, corporație tehnologică multinațională americană care produce software de calculator, electronice de larg consum, calculatoare personale și servicii conexe.

Notă. La începutul anului, în laboratorul Open AI lucrau peste 120 de angajați, din care 25% femei și non-binari, adică un fel de transgenderi. Nu exista nici un angajat negru, doar câțiva asiatici.

Primul experiment care a ieșit din laboratoarele OpenAI, în aprilie 2022, a fost modelul text-to-image DALL-E 2, un program care, pe baza unui text scurt, îți creează o imagine a ceea ce ai cerut în câteva secunde. (DALL-E este un cuvânt telescopat între WALL-E și Salvador Dalí).

Cu Chat GPT-ul actual, lansat pe 30 noiembrie, OpenAI a devenit unul dintre cele mai importante laboratoare de cercetare AI din lume.

Care este scopul ChatGPT?

Scopul declarat al creatorilor GPT (și altele similare) a fost/este de a dezvolta un sistem de Inteligență Generală Artificială - AGI, mai exact de „a învăța sistemele IA să vadă lumea așa cum o fac oamenii” - o mașinărie care să aibă capacitatea de a înțelege sau de a învăța orice sarcină intelectuală pe care o poate îndeplini o ființă umană.

Din acest motiv, conducerea companiei Open AI spune că programele Chat GTP sau DALL-E 2 sunt doar instrumente care se încadrează în foaia de parcurs al proiectului de implementare a unei inteligențe artificiale puternice. „Suntem aici pentru a face AGI, nu generatoare de imagini”, a declarat Greg Brockman, președintele și co-fondatorul OpenAI, pentru publicațiaMIT Technology Review.

Greg Brockman a lăsat să se înțeleagă clar că Chat GPT este în stadiul de feedback. Compania a făcut, la început, acest serviciu gratuit pentru a determina cât mai mulți oameni să folosească aplicația pentru a îmbunătăți serviciul și a aduna mai multe date despre modul în care oamenii comunică între ei, pentru a ajusta și mai mult modelul.

Mai exact, pentru a crea un sistem AGI puternic, compania are nevoie de cât mai mulți oameni inconștienți, dependenți de Chat GTP ca de telefoanele mobile.

Elon Musk propune un „simbiot AI-uman”

Așa după cum se știe deja, algoritmii AI sunt părtinitori și fragili; pot săvârși mari abuzuri și mari înșelăciuni; iar cheltuiala dezvoltării și conducerii unei astfel de tehnologii tinde să se concentreze în mâinile câtorva bogați ai lumi. Ori, o tehnologie precum AGI aflată în mâna unor rău-voitori ar putea fi catastrofală.

Elon Musk, fost co-fondator OpenAI, care deține mai multe companii în domeniu, în special Tesla Motors, și-a exprimat public îngrijorarea cu privire la astfel de potențiale pericole. În special, el a avertizat cu privire la riscul ca IA să fie folosită pentru a dezvolta arme sau pentru a interfera cu alegerile. El și-a exprimat, de asemenea, îngrijorarea cu privire la potențialul ca AI să depășească inteligența umană și să devină o amenințare pentru umanitate.

„Cred că dacă ai o IA incredibil de puternică, pur și simplu nu știi cine va controla asta. Cred că trebuie să realizăm democratizarea tehnologiei AI pentru a o face disponibilă pe scară largă. Înseamnă că nicio companie sau un mic grup de persoane să nu dețină control asupra tehnologiei avansate AI”, a spus Elon Musk, recent într-un interviu.

Miliardarul propune o fuziune a inteligenței artificiale direct cu creierul uman - ceva similar cu eID (European Identification), la care se lucrează acum în Parlamentul European, unde fiecare persoană din UE va avea un număr de identificare format din numere și litere - sistem de tehnologii (cipare) - doar că Elon Musk vrea ca acest sistem de tehnologie-cipare să facă legătura direct cu cortexul cerebral uman.

„Cred că dacă putem fuziona efectiv cu AI prin îmbunătățirea legăturii neuronale dintre cortexul tău și extensia ta digitală... atunci vei deveni efectiv un simbiot AI-uman. Și dacă acest lucru este larg răspândit, oricine dorește îl poate avea, atunci rezolvăm și problema controlului, nu trebuie să ne facem griji pentru vreun AI dictator rău pentru că suntem AI-ul colectiv. Acesta pare a fi cel mai bun rezultat la care mă pot gândi”, a explicat Musk

Mai exact, miliardarul vrea să implementeze o relație de tip simbioză dintre creierul uman și inteligența artificială, unde în lipsa unuia existența celuilalt nu este posibilă, după modelul Spider-Man, o specie fictivă de simbioți extratereștri care apar în cărțile de benzi desenate americane publicate de Marvel Comics.

Cum poate fi periculoasă inteligența artificială?

Comunitatea tehnologică a dezbătut de mult amenințările pe care le reprezintă inteligența artificială. Automatizarea locurilor de muncă, răspândirea de știri false și o cursă periculoasă a înarmărilor, a armelor alimentate cu inteligență artificială au fost menționate drept unele dintre cele mai mari pericole.

Să aruncăm o privire la câteva riscuri cheie legate de inteligența artificială.

Arme autonome

În cazul armelor autonome programate să ucidă, este o modalitate prin care AI poate prezenta riscuri. Ar putea fi chiar plauzibil să ne așteptăm ca această cursă a înarmărilor nucleare să fie înlocuită cu o cursă globală a armelor autonome. Președintele Rusiei, Vladimir Putin, a spus: „Inteligenta artificială este viitorul, nu numai pentru Rusia, ci și pentru întreaga omenire. Vine cu oportunități enorme, dar și amenințări greu de anticipat. Oricine devine lider în această sferă va deveni conducătorul lumii.”

În afară de îngrijorarea că armele autonome ar putea câștiga o „minte proprie”, o preocupare mai iminentă o reprezintă pericolele pe care le-ar putea avea armele autonome cu un individ sau un guvern care nu prețuiește viața umană. Odată desfășurate, acestea vor fi probabil dificil de demontat sau de combătut.

Primul pas în această direcție este deja făcut. Turcia Bayraktar TB2 și alte drone ieftine au schimbat natura războiului cu drone.

Invazia în viețile private

Camerele sunt aproape peste tot, iar algoritmii de recunoaștere facială știu cine ești. De fapt, acesta este tipul de informație care alimentează deja sistemul de credit social al Chinei și care se așteaptă să ofere fiecăruia dintre cei 1,4 miliarde de cetățeni ai săi un punctaj personal bazat pe modul în care se comportă - precum: cum se plimbă, fumează în zonele pentru nefumători și cât timp petrec jucând jocuri video. Când Big Brother te urmărește și apoi ia decizii pe baza acelei informații, nu este doar o invazie a confidențialității, ci se poate transforma rapid în opresiune socială.

Manipularea socială

Rețelele sociale prin algoritmii săi alimentați autonom sunt foarte eficiente în marketingul țintă. Ei știu cine suntem, ce ne place și sunt incredibil de buni să anticipeze. De exemplu, investigațiile sunt încă în derulare în cazul Cambridge Analytica și a altor persoane asociate cu firma care au folosit datele de la 50 de milioane de utilizatori Facebook pentru a încerca să influențeze rezultatul alegerilor prezidențiale din SUA și al referendumului Brexit din Marea Britanie, dar, dacă acuzațiile sunt corecte, ilustrează puterea AI pentru manipularea socială.

 Răspândind propagandă către indivizi identificați prin algoritmi și date personale, inteligența artificială îi poate viza și răspândi orice informație dirijată, în orice format pe care îl vor găsi cel mai convingător – fapt sau ficțiune.

„Nimeni nu mai știe ce este real și ce nu”, a spus un membru al Institutul Future of Life (FLI) în fața Parlamentului European. „Dezvoltarea AGI duce într-adevăr la o situație în care literalmente nu îți poți crede propriilor ochi și urechi; nu te poți baza pe ceea ce, din punct de vedere istoric, am considera a fi cea mai bună dovadă posibilă... Asta va fi o problemă uriașă. ”

Notă. „Mi-e teamă de ziua în care tehnologia va fi mai importantă ca relațiile interumane. În lume va exista o generație de idioți.” - Albert Einstein

(februarie 2023)

Autor: MARIANA GAVRILĂ