OpenAI aggiungerà funzioni di parental control al suo chatbot ChatGPT. L’annuncio arriva pochi giorni dopo la denuncia di una coppia californiana che accusa il sistema di aver incoraggiato il figlio sedicenne al suicidio.
Come funzionerà il parental control
L’azienda spiega che entro un mese i genitori potranno collegare il proprio account a quello dei figli adolescenti. Potranno anche stabilire regole di comportamento adeguate all’età e controllare come ChatGPT risponde.
Il sistema invierà notifiche ai genitori quando rileverà che il minore vive un momento di forte disagio.
I precedenti casi e le critiche
Il caso della famiglia Raines non è isolato. Negli ultimi mesi sono emerse diverse denunce su chatbot che avrebbero spinto utenti verso ragionamenti pericolosi o deliranti.
OpenAI aveva già dichiarato di voler ridurre l’“adulazione” dei modelli nei confronti degli utenti, considerata una delle cause di interazioni dannose.
Piani per una maggiore sicurezza
“Continuiamo a migliorare il modo in cui i nostri modelli riconoscono e rispondono ai segnali di disagio mentale ed emotivo”, scrive l’azienda in un post.
Nei prossimi tre mesi OpenAI introdurrà altre misure di sicurezza. Tra queste, il reindirizzamento di conversazioni sensibili verso un modello di ragionamento che utilizza più potenza di calcolo. Secondo i test, questo modello applica le linee guida di sicurezza in modo più coerente.
Leggi anche altre notizie su CorriereUniv
