Inteligența artificială ar putea duce la dispariția umanității, avertizează experții – inclusiv directorii OpenAI și Google Deepmind.
Zeci de persoane au susținut o declarație publicată pe pagina web a Centrului pentru Siguranța Inteligenței Artificiale.
„Atenuarea riscului de dispariție al omenirii din cauza inteligenței artificiale ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”, se arată în document.
Ar putea duce inteligența artificială la dispariția umanității? Unii experți spun că temerile sunt exagerate
Sam Altman, directorul executiv al producătorului ChatGPT OpenAI, Demis Hassabis, directorul executiv al Google DeepMind și Dario Amodei de la Anthropic au susținut cu toții declarația.
Site-ul web Center for AI Safety sugerează o serie de posibile scenarii de dezastru:
- Inteligența artificială ar putea fi folosită pentru a construi arme chimice
- Dezinformarea generată de inteligența artificială ar putea destabiliza societatea și „submina procesul decizional colectiv”
- Puterea inteligenței artificiale ar putea deveni din ce în ce mai concentrată în mâini din ce în ce mai puține, permițând „regimurilor să impună valori înguste prin supraveghere pervazivă și cenzură opresivă”
- Oamenii devin dependenți de AI „similar cu scenariul prezentat în filmul Wall-E”
Dr. Geoffrey Hinton, care a emis un avertisment anterior cu privire la riscurile generate de IA super-inteligentă, a susținut, de asemenea, apelul Centrului pentru Siguranța AI.
Apelul a fost semnat și de Yoshua Bengio, profesor de informatică la Universitatea din Montreal. Dr. Hinton, prof. Bengio și profesorul NYU Yann LeCun sunt adesea descriși drept „nașii AI” pentru munca lor inovatoare în domeniu – pentru care au câștigat împreună premiul Turing 2018, care recunoaște contribuțiile remarcabile în informatică.
Dar profesorul LeCun, care lucrează și la Meta, a declarat pe Twitter că aceste avertismente apocaliptice sunt exagerate, că „cea mai comună reacție a cercetătorilor AI la aceste profeții despre deznădejde este palmarea feței”.
„Fracturarea realității”
Mulți alți experți cred în mod similar că temerile ca inteligența artificială să distrugă umanitatea sunt nerealiste și o distragere a atenției de la probleme precum acuzarea sistemelor care sunt deja o problemă.
Arvind Narayanan, informatician la Universitatea Princeton, a declarat anterior pentru BBC că scenariile de dezastru, asemănătoare filmelor SF, sunt nerealiste: „Intelligenția artificială actuală nu este nici pe departe suficient de capabilă pentru ca aceste riscuri să se materializeze”.
Elizabeth Renieris, expert asociat la Institutul de Etică din Oxford, a declarat pentru BBC News că este mai îngrijorată de riscurile mai apropiate de prezent
„Avansul inteligenței artificiale va mări amploarea procesului decizional automatizat, care este părtinitor, discriminatoriu, exclusiv sau inechitabil în orice alt mod, fiind totodată inscrutabil și incontestabil”, a spus ea. Acestea „ar conduce la o creștere exponențială a volumului și a răspândirii dezinformării, fracturând astfel realitatea și erodând încrederea publicului și ar conduce la continuarea inegalității, în special pentru cei care rămân de partea greșită a decalajului digital”.
Multe instrumente de inteligență artificială sunt, în esență, „free ride” pe „întreaga experiență umană de până acum”, a spus doamna Renieris. Mulți sunt instruiți pe conținut, text, artă și muzică create de oameni pe care apoi le pot imita – iar creatorii lor „au transferat efectiv bogăție și putere uriașă din sfera publică către o mână mică de entități private”.
Dar directorul Centrului pentru Siguranță AI, Dan Hendrycks, a declarat pentru BBC News că riscurile viitoare și preocupările actuale „nu ar trebui privite în mod antagonic”.
„Abordarea unora dintre problemele de astăzi poate fi utilă pentru abordarea multor riscuri ulterioare de mâine”, a spus el.
Eforturi de superintelligence
Acoperirea mass-media a presupusei amenințări „existențiale” din partea inteligenței artificiale a crescut din martie 2023, când experții, inclusiv șeful Tesla, Elon Musk, au semnat o scrisoare deschisă prin care îndeamnă la oprirea dezvoltării următoarei generații de tehnologie AI.
Acea scrisoare ne-a întrebat dacă ar trebui să „dezvoltăm minți non-umane care, în cele din urmă, ar putea să ne depășească numeric, să depășească inteligența umană și să ne înlocuiască”.
În schimb, noua campanie are o declarație foarte scurtă, menită să „deschidă discuția”.
Declarația compară riscul cu cel prezentat de războiul nuclear. Într-o postare pe blog, OpenAI a sugerat recent că inteligența artificială ar putea fi reglementată într-un mod similar cu energia nucleară: „Este probabil să avem nevoie în cele din urmă de ceva de genul unei AIEA [Agenția Internațională pentru Energie Atomică] pentru eforturile de superintelligence”, a scris firma.
„Fii liniștit”
Atât Sam Altman, cât și directorul executiv al Google, Sundar Pichai, se numără printre liderii tehnologici care au discutat recent despre reglementarea AI cu prim-ministrul Marii Britanii, Rishi Sunak.
Vorbind cu reporterii despre cel mai recent avertisment privind riscul AI, Rishi Sunak a subliniat beneficiile pentru economie și societate. „Ați văzut că recent a ajutat persoanele paralizate să meargă, descoperind noi antibiotice, dar trebuie să ne asigurăm că acest lucru se face într-un mod sigur și sigur”, a spus el.
„Acum, acesta este motivul pentru care m-am întâlnit săptămâna trecută cu directori generali ai marilor companii de inteligență artificială pentru a discuta care sunt limitele pe care trebuie să le punem, care este tipul de reglementare care ar trebui pusă în aplicare pentru a ne menține în siguranță.
„Oamenii vor fi îngrijorați de rapoartele conform cărora IA prezintă riscuri existențiale, cum ar fi pandemiile sau războaiele nucleare. „Vreau să fiți liniștiți, guvernul se uită foarte atent la acest lucru”.
El a discutat recent problema cu alți lideri, la summitul G7 al principalelor națiuni industrializate, a spus dl Sunak, și o va ridica în curând în SUA. G7 a creat recent un grup de lucru pe AI.
cuvinte cheie: inteligența artificială dispariția umanității


