Om în buclă

Definiție

„Human-in-the-loop” (HITL) se referă la sisteme în care judecata umană este integrată în fluxurile de lucru ale inteligenței artificiale pentru sarcini precum instruirea, evaluarea sau luarea deciziilor.

Scop

Scopul este de a combina expertiza umană cu eficiența inteligenței artificiale. Aceasta asigură calitatea, supravegherea etică și siguranța în aplicațiile sensibile.

Importanță

• Reduce erorile în domeniile cu risc ridicat (de exemplu, asistența medicală, apărarea).
• Îmbunătățește instruirea prin feedback uman.
• Oferă responsabilitate în sistemele automatizate.
• Mai lent și mai costisitor în comparație cu automatizarea completă.

Cum funcționează

1. Definiți zonele în care este necesară supravegherea umană.
2. Colectați rezultate sau sugestii de la inteligența artificială.
3. Oamenii validează, corectează sau oferă feedback.
4. Feedback-ul este integrat pentru a reantrena sau rafina modelele.
5. Monitorizați performanța sistemului cu o verificare umană continuă.

Exemple (din lumea reală)

• Moderarea conținutului: oamenii examinează postările semnalate de inteligența artificială.
• IA medicală: medicii validează diagnosticele generate de IA.
• Învățare prin întărire din feedback uman (RLHF): antrenează modele lingvistice precum ChatGPT.

Referințe/Lecturi suplimentare

• Amershi și colab. „Putere pentru oameni: Rolul oamenilor în învățarea automată interactivă.” Revista AI.
• Cadrul NIST de gestionare a riscurilor de inteligență artificială.
• Standardele IEEE pentru sistemele Human-in-the-Loop.
• Înțelegerea interacțiunii umane în buclă