Il ChatGPT Store, piattaforma lanciata da OpenAI, ha suscitato grande interesse nelle prime settimane dalla sua introduzione. Questo store, dedicato ai bot sviluppati utilizzando le API di GPT, si è rapidamente arricchito di numerosi chatbot, alcuni dei quali hanno destato particolare curiosità per la loro natura insolita.
Secondo quanto riportato da MSPoweruser, diversi sviluppatori hanno sfruttato le opzioni di personalizzazione delle API di GPT per creare chatbot che sembrano oltrepassare i confini stabiliti dalle linee guida di OpenAI. Un esempio lampante emerge dalla ricerca del termine “girlfriend” nello store, che rivela l’esistenza di chatbot etichettati come “fidanzate coreane”, “fidanzate virtuali” e “la tua ragazza AI, Tsu”. Questi bot rappresentano una svolta significativa nell’uso delle tecnologie AI, introducendo un elemento di sorpresa e controversia.
La posizione di OpenAI
Nonostante l’apparente violazione delle politiche aziendali, non è ancora chiaro se OpenAI stia attivamente intervenendo per impedire la pubblicazione di tali chatbot. È noto, tuttavia, che la compagnia guidata da Sam Altman è a conoscenza di queste violazioni. OpenAI adotta sistemi automatizzati, controlli manuali e segnalazioni degli utenti per identificare e rimuovere i chatbot che potrebbero essere pericolosi o non conformi alle sue regole interne.
L’articolo di MSPoweruser evidenzia inoltre una tendenza in crescita negli Stati Uniti durante il 2023: l’aumento di bot IA progettati per simulare fidanzate reali con alternative virtuali. Questo fenomeno solleva questioni etiche e sociali rilevanti, segnalando forse un nuovo campanello d’allarme nella relazione tra tecnologia e società.