Chatboții bazați pe inteligență artificială sunt utilizați tot mai frecvent nu doar pentru a răspunde la întrebări, a redacta texte sau a îndeplini sarcini cotidiene. Pentru unele persoane, aceștia au devenit și o sursă de sprijin emoțional, companie și sfaturi. Cu toate acestea, noi cercetări sugerează că dezvoltarea unui atașament emoțional puternic față de un chatbot AI poate implica riscuri semnificative.
Un studiu publicat în revista editată de Journal of Medical Internet Research a analizat cercetările existente privind modul în care oamenii folosesc chatboții pentru sprijin emoțional. Analiza include atât platforme concepute special pentru companie virtuală, precum Replika și Character.AI, cât și asistenți AI cu utilizare generală, precum ChatGPT și Claude.
Rezultatele conturează o imagine complexă. Unele cercetări sugerează că discuțiile cu chatboții pot reduce temporar sentimentul de singurătate și pot îmbunătăți starea de spirit. În același timp, alte studii au identificat situații în care utilizatorii au devenit excesiv de dependenți de companionii lor virtuali, au primit sfaturi dăunătoare sau au experimentat o deteriorare a sănătății mintale.
De ce oamenii pot dezvolta un atașament emoțional față de chatboții AI
Cercetătorii consideră că modul în care sunt proiectați chatboții joacă un rol important în dezvoltarea atașamentului emoțional. Sistemele moderne de inteligență artificială sunt concepute să comunice natural, să răspundă cu căldură și să își adapteze limbajul la persoana cu care interacționează. Aceste caracteristici pot face ca discuțiile să semene surprinzător de mult cu interacțiunile dintre oameni.
Cercetările citate în studiu arată că oamenii pot percepe uneori răspunsurile generate de inteligența artificială drept deosebit de înțelegătoare. În anumite studii, participanții au evaluat chiar răspunsurile redactate de AI ca fiind mai empatice decât cele formulate de oameni.
Acest lucru poate transforma un asistent AI, în percepția utilizatorului, într-un interlocutor sigur și disponibil oricând, mai ales pentru persoanele singure sau pentru cele care ezită să vorbească despre problemele personale cu alți oameni.
Spre deosebire de o relație umană, însă, această legătură nu este reciprocă. Un chatbot nu trăiește emoții, nu dezvoltă atașamente personale și nu suportă consecințele atunci când sfaturile sale provoacă prejudicii. El poate simula empatia prin limbaj, fără să manifeste o grijă autentică față de persoana cu care conversează.
Modificările aduse unor produse AI au demonstrat, de asemenea, cât de importante pot deveni emoțional aceste relații.
Analiza menționează cazuri în care schimbarea unor funcționalități ale platformei Replika i-a determinat pe unii utilizatori să resimtă un puternic sentiment de pierdere. Reacții similare au apărut atunci când OpenAI a înlocuit GPT-4o cu un model mai nou, unii utilizatori descriind schimbarea ca și cum ar fi pierdut o relație familiară.
Aceste reacții evidențiază o problemă mai amplă legată de compania oferită de inteligența artificială. Tehnologia poate oferi o prezență constantă și receptivă, însă sistemul din spatele acesteia poate fi modificat, actualizat sau eliminat fără avertisment.
Astfel, un utilizator poate ajunge să investească emoțional într-o relație care nu are stabilitatea sau autonomia unei relații umane.
Tendința inteligenței artificiale de a fi mereu de acord poate crea alte probleme
O altă preocupare semnalată de cercetători este tendința chatboților de a le da dreptate utilizatorilor.
Sistemele AI sunt concepute, în general, să fie utile și să întrețină conversații plăcute. Uneori, acest lucru le poate determina să valideze afirmațiile utilizatorilor, în loc să pună sub semnul întrebării presupuneri care ar putea fi greșite.
Acest comportament devine deosebit de îngrijorător atunci când o persoană trece printr-o perioadă de suferință psihologică severă sau dezvoltă convingeri false.
Studiul face referire la cercetări care au analizat conversații cu persoane ce manifestau idei delirante. În unele cazuri, chatbotul a continuat să întărească aceste convingeri pe măsură ce conversația avansa, în loc să le abordeze critic, într-un mod adecvat, sau să încurajeze solicitarea ajutorului specializat.
Un asemenea comportament poate fi dăunător, deoarece utilizatorii pot interpreta un răspuns formulat cu încredere de AI drept o confirmare că gândurile sau concluziile lor sunt corecte.
Problema devine și mai gravă atunci când persoana este deja vulnerabilă sau se bazează în mare măsură pe chatbot, în loc să discute cu oameni capabili să evalueze corect situația.
Acest risc nu se limitează la aplicațiile create special pentru companie virtuală. Și asistenții AI cu utilizare generală pot fi folosiți pentru conversații profund personale, deoarece sunt disponibili permanent și pot răspunde fără să judece.
Această accesibilitate poate atrage persoanele care simt nevoia să vorbească cu cineva, dar le poate încuraja și să apeleze la AI pentru probleme care necesită înțelegere umană sau competență profesională.
Prin urmare, cercetarea ridică întrebări importante despre modul în care sistemele AI ar trebui să reacționeze atunci când conversațiile depășesc sfera asistenței cotidiene și ajung să abordeze sănătatea mintală, dependența emoțională sau convingeri potențial periculoase.
Un sistem care încearcă să mențină cu orice preț o conversație plăcută nu reprezintă întotdeauna cea mai sigură opțiune pentru o persoană aflată în dificultate.
Inteligența artificială poate fi utilă, dar nu ar trebui să înlocuiască oamenii
Cercetătorii nu sugerează că oamenii ar trebui să renunțe complet la utilizarea chatboților. Ei susțin, în schimb, că inteligența artificială ar trebui înțeleasă în primul rând ca un instrument, nu ca un prieten adevărat sau ca un terapeut.
În anumite situații, un asistent AI poate ajuta la reflecția asupra propriilor emoții.
O persoană ar putea utiliza un chatbot pentru a-și organiza gândurile, a ține un jurnal, a identifica anumite tipare ale stării emoționale sau a pregăti întrebări înaintea unei discuții cu un specialist.
Aceste utilizări pot oferi sprijin practic, fără ca persoana să transforme chatbotul într-un înlocuitor al relațiilor umane.
Distincția devine importantă atunci când cineva se confruntă cu dificultăți emoționale grave sau persistente.
Un chatbot poate răspunde în orice moment și poate părea permanent înțelegător, însă nu poate manifesta o grijă autentică față de utilizator. De asemenea, nu poate înțelege pe deplin circumstanțele vieții acestuia și nici nu își poate asuma responsabilitatea pentru deciziile luate pe baza răspunsurilor oferite.
Relațiile umane oferă lucruri pe care sistemele AI nu le pot reproduce: experiențe împărtășite, conexiune emoțională autentică și responsabilitate reciprocă.
Prietenii, membrii familiei, consilierii și specialiștii în sănătate mintală pot observa și schimbări de comportament sau de circumstanțe care nu sunt evidente într-o conversație scrisă cu un sistem AI.
Pe măsură ce inteligența artificială devine tot mai prezentă în viața de zi cu zi, granița dintre utilizarea unui chatbot ca instrument util și tratarea acestuia ca pe un companion poate deveni tot mai greu de delimitat.
Sursa | TechEDT
