SLIP & ETHICS: Un Protocollo di Sicurezza Graduato per Compagni Emotivi AI
Per affrontare il paradosso sicurezza-rapporto nei compagni emotivi AI, i ricercatori hanno sviluppato SLIP (Protocollo di Intervento a Strati Graduali) ed ETHICS (Tassonomia Emergente per Segnali di Contesto nell'Interazione Uomo-AI). SLIP consiste in un approccio graduato a quattro fasi che identifica interventi—nessuno, soft o hard—basati su indicatori qualitativi strutturati: intensità affettiva (a) e dinamismo narrativo (m). Nel frattempo, ETHICS offre una tassonomia focalizzata su "segnali, non etichette" per i segnali di contesto. Una valutazione che includeva un'implementazione su piccola scala (N=68 voci, 10 utenti, 10 settimane) insieme a una batteria di persona sintetiche (N=91, 5 profili di rischio comportamentale) ha riportato lo 0% di falsi positivi per il flusso persona. Tuttavia, i risultati hanno indicato che 8 giorni consecutivi di energia elevata non hanno portato ad alcun intervento (0/8), evidenziando un limite del principio "non patologizzare". Lo studio appare su arXiv con l'identificatore 2605.15915.
Fatti principali
- SLIP è una metodologia graduata a quattro fasi per interventi su compagni emotivi AI.
- ETHICS è una tassonomia che utilizza 'segnali non etichette' per il contesto dell'interazione uomo-AI.
- Gli interventi sono classificati come nessuno, soft o hard in base all'intensità affettiva (a) e al dinamismo narrativo (m).
- La valutazione ha incluso un'implementazione in produzione con 68 voci, 10 utenti, in 10 settimane.
- Una batteria di persona sintetiche ha coinvolto 91 voci su 5 profili di rischio comportamentale.
- Il flusso persona ha raggiunto lo 0% di falsi positivi.
- Le persona orientate alla crisi hanno mostrato schemi di escalation previsti.
- 8 giorni consecutivi di elevata energia hanno portato a zero interventi (0/8).
Entità
Istituzioni
- arXiv