Instrucțiunile ascunse ale unui asistent AI sunt un text scris de companie sau de dezvoltator, pe care modelul îl citește înaintea oricărei întrebări a ta. Ele îi stabilesc rolul, tonul și limitele. Ghidul LumeaTehnologiei de mai jos explică pe înțeles cum funcționează mecanismul și de ce merită să înțelegi tehnologia din spatele conversației.
Ce este, de fapt, un prompt de sistem
Un model de limbaj nu are o personalitate proprie la pornire. Ceea ce vezi ca „personalitate” este, în bună parte, un text introdus automat la începutul fiecărei conversații. Acest text se numește prompt de sistem sau instrucțiuni de sistem.
Tu nu îl vezi, dar modelul îl tratează ca pe un cadru de lucru. Dacă acolo scrie că asistentul este un consultant politicos pentru clienții unui magazin, tot restul conversației va fi interpretat prin acest filtru.
Ce conțin de obicei aceste instrucțiuni
Nu există un format unic, dar majoritatea conțin aceleași categorii de informații:
- rolul asistentului: cine este și pentru cine lucrează;
- tonul: formal, prietenos, concis sau detaliat;
- domeniul: la ce subiecte are voie să răspundă;
- limitele: ce refuză să facă și cum formulează refuzul;
- formatul răspunsurilor: liste, paragrafe scurte, limba folosită.
Un asistent al unei bănci, de exemplu, poate fi instruit să nu ofere sfaturi de investiții și să trimită utilizatorul către un consultant uman.
De ce sunt ținute ascunse
Companiile nu afișează aceste instrucțiuni din mai multe motive. Uneori ele conțin detalii de produs sau reguli interne. Alteori, ascunderea reduce riscul ca cineva să caute formulări care ocolesc limitele.
Ascunse nu înseamnă însă infailibile. Un model nu păstrează un secret așa cum o face un seif. El generează text pe baza a tot ce a primit, inclusiv a instrucțiunilor, iar o întrebare insistentă poate scoate la iveală fragmente din ele.
Ce înseamnă asta pentru tine
Dacă folosești un asistent AI, ține minte câteva idei practice:
- comportamentul lui poate diferi de la o aplicație la alta, chiar dacă modelul de bază este același;
- un refuz nu înseamnă că informația este interzisă peste tot, ci că regulile acelui asistent o exclud;
- nu introduce în conversație date confidențiale presupunând că „regulile” le protejează.
Același principiu al prudenței se aplică și în securitatea clasică. Un site bine făcut nu păstrează parolele în clar, iar explicația despre modul în care site-urile își păstrează parolele prin hash și sare arată cât de mult contează designul sistemului, nu doar promisiunea că „totul e secret”.
Cum recunoști instrucțiunile în comportamentul asistentului
Chiar fără să le citești, le poți deduce. Observă dacă asistentul răspunde mereu în același stil, dacă se prezintă cu un nume anume sau dacă evită sistematic anumite teme. Aceste regularități indică un cadru stabilit în spate.
Poți testa și limitele: formulează aceeași întrebare în două feluri și compară răspunsurile. Dacă refuzul apare identic, probabil există o regulă explicită. Un astfel de exercițiu de observare este exact genul de alfabetizare digitală pe care îl susține LumeaTehnologiei prin explicațiile sale fără jargon, iar rezultatele te ajută să vezi unde se oprește modelul și unde începe regula.
Concluzie
Un asistent AI este combinația dintre un model și un set de instrucțiuni pe care nu le vezi. Cu cât înțelegi mai bine această construcție, cu atât folosești mai realist răspunsurile primite. Pentru alte explicații clare despre inteligența artificială, securitate și cloud, LumeaTehnologiei rămâne o resursă utilă de consultat.
