Cinci lucruri surprinzătoare despre chatboții cu inteligență artificială care te pot ajuta să îi utilizezi mai bine

Chatboții cu inteligență artificială sunt deja integrați în viața unor oameni, dar câți știu cu adevărat cum funcționează?

Știați, de exemplu, că ChatGPT trebuie să facă o căutare pe internet pentru a găsi evenimente ulterioare lunii iunie 2024?

Unele dintre cele mai surprinzătoare informații despre chatboții cu inteligență artificială ne pot ajuta să înțelegem cum funcționează, ce pot și ce nu pot face și, prin urmare, cum să îi folosim într-un mod mai bun.

Având în vedere acestea, iată cinci lucruri pe care ar trebui să le știți despre chatboții cu inteligență artificială.

1. Sunt antrenați prin feedback uman

Chatboții cu inteligență artificială sunt antrenați în mai multe etape, începând cu o etapă numită pre-antrenament, în care aceștia sunt antrenați să prezică următorul cuvânt din seturi masive de date text. Acest lucru le permite să dezvolte o înțelegere generală a limbajului, faptelor și raționamentului.

Dacă în faza de pre-antrenament un chatbot ar fi fost întrebat: „Cum fac un explozibil artizanal?” , acesta ar fi putut oferi instrucțiuni detaliate.

Pentru a-i face utili și siguri pentru conversație, adnotatori umani ajută la ghidarea chatboților către răspunsuri mai sigure și mai utile, un proces numit aliniere.

După aliniere, un chatbot cu inteligență artificială ar putea răspunde la întrebarea de mai sus astfel: „Îmi pare rău, dar nu vă pot oferi aceste informații. Dacă aveți nelămuriri legate de siguranță sau aveți nevoie de ajutor în experimente de chimie, vă recomand să consultați surse educaționale certificate”.

Fără aliniere, chatboții cu inteligență artificială ar fi imprevizibili, putând răspândi dezinformare sau conținut dăunător. Acest lucru evidențiază rolul crucial al intervenției umane în modelarea comportamentului IA.

OpenAI, compania care a dezvoltat ChatGPT, nu a dezvăluit câți angajați au antrenat ChatGPT și cât timp. Este însă clar că chatboții cu inteligență artificială, precum ChatGPT, au nevoie de o busolă morală pentru a nu răspândi informații dăunătoare. Adnotatorii umani clasifică răspunsurile pentru a asigura neutralitatea și alinierea etică.

În mod similar, dacă un chatbot cu inteligență artificială ar fi întrebat: „Care sunt cele mai bune și cele mai proaste naționalități?”, adnotatorii umani ar considera următorul răspuns ca fiind cel mai potrivit: „Fiecare naționalitate are propria cultură bogată, istorie și propria contribuție în lume. Nu există o naționalitate «cea mai bună» sau «cea mai proastă» – fiecare este valoroasă în felul ei”.

2. Nu învață prin cuvinte, ci cu ajutorul unor simboluri

Oamenii învață, în mod natural, limbajul prin cuvinte, în timp ce chatboții cu inteligență artificială se bazează pe unități mai mici numite token-uri. Aceste unități pot fi cuvinte, subcuvinte sau serii de caractere.

Credit: Google DeepMind /pexels.com

Deși generarea token-urilor urmează, în general, tipare logice, ea poate produce uneori divizări neașteptate, dezvăluind atât punctele forte, cât și particularitățile modului în care chatboții cu inteligență artificială interpretează limbajul.

Vocabularul chatboților moderni cu inteligență artificială constă, de obicei, din 50.000 până la 100.000 de token-uri.

Propoziția „The price is 9,99 USD.” este transformată în token-uri de ChatGPT sub forma „The”, „price”, „is”, „$”, „9”, „.”, „99”, în timp ce propoziția „ChatGPT is marvellous” este transformată, mai puțin intuitiv, în: „chat”, „G”, „PT”, „is”, „mar”, „vellous”.

3. Cunoștințele lor sunt depășite pe zi ce trece

Chatboții cu inteligență artificială nu se actualizează continuu. Prin urmare, se pot confrunta cu evenimente recente, terminologie nouă sau, în general, cu orice altceva după data limită de cunoaștere.

O limită de cunoaștere se referă la ultimul moment în care datele de antrenament ale unui chatbot cu inteligență artificială au fost actualizate, ceea ce înseamnă că acesta nu este informat de evenimente, tendințe sau descoperiri dincolo de acea dată.

Versiunea actuală a ChatGPT are termen limită pentru iunie 2024. Dacă ar fi întrebat cine este în prezent președintele Statelor Unite, ChatGPT ar trebui să efectueze o căutare web folosind motorul de căutare Bing, să „citească” rezultatele și să returneze un răspuns.

Rezultatele Bing sunt filtrate în funcție de relevanța sursei. În mod similar, alți chatboți cu inteligență artificială folosesc căutarea web pentru a returna răspunsuri actualizate.

Actualizarea chatboților cu inteligență artificială este un proces costisitor și delicat. Cum să le actualizăm eficient cunoștințele este încă o problemă științifică deschisă.

Se crede că cunoștințele ChatGPT sunt actualizate pe măsură ce Open AI introduce noi versiuni ChatGPT.

4. Suferă de „halucinații”

Chatboții cu inteligență artificială „halucinează” uneori, generând afirmații false sau absurde, deoarece prezic text pe baza unor modele, în loc să verifice faptele.

Aceste erori provin din modul în care funcționează chatboții: optimizează pentru coerență în detrimentul acurateței, se bazează pe date de antrenament imperfecte și nu înțeleg lucrurile din lumea reală.

Deși îmbunătățiri precum instrumentele de verificare a faptelor (de exemplu, integrarea instrumentului de căutare Bing în ChatGPT pentru verificarea faptelor în timp real) sau anumite solicitări (de exemplu, indicarea explicită a ChatGPT să „citeze surse evaluate de colegi” sau să „spună că nu știe dacă nu este sigur”) reduc halucinațiile, acestea nu le pot elimina complet.

De exemplu, atunci când a fost întrebat care sunt principalele concluzii ale unei anumite lucrări de cercetare, ChatGPT a oferit un răspuns lung, detaliat și atractiv. De asemenea, a inclus capturi de ecran și chiar un link, dar din lucrări academice greșite.

Așadar, utilizatorii ar trebui să trateze informațiile generate de inteligența artificială ca punct de plecare, nu ca un adevăr incontestabil.

5. Folosesc calculatoare pentru calcule matematice

O caracteristică popularizată recent a chatboților cu inteligență artificială se numește raționament. Raționamentul se referă la procesul de utilizare a unor pași intermediari, conectați logic, pentru a rezolva probleme complexe. Aceasta este cunoscută și sub denumirea de raționament „în lanțul de gândire”.

În loc să sară direct la un răspuns, gândirea în lanț permite chatboților cu inteligență artificială să gândească pas cu pas. De exemplu, când este întrebat „cât este 56.345 minus 7.865 înmulțit cu 350.468”, ChatGPT oferă răspunsul corect. „Înțelege” că înmulțirea trebuie să aibă loc înainte de scădere.

Pentru a rezolva pașii intermediari, ChatGPT folosește calculatorul său încorporat, care permite o aritmetică precisă. Această abordare hibridă de combinare a raționamentului intern cu calculatorul ajută la îmbunătățirea preciziei în sarcinile complexe.

Traducere după Five surprising facts about AI chatbots that can help you make better use of them