(San Francisco, Estados Unidos). OpenAI anunció planes el martes para aliviar las restricciones en su chatbot ChatGPT para proporcionar contenido erótico a usuarios adultos verificados.
El plan es parte de lo que la empresa llama el principio de «tratar a los usuarios adultos como adultos».
Sam Altman, director ejecutivo de OpenAI, dijo en su
Los controles más estrictos se produjeron después de que el adolescente californiano Adam Raine se suicidara a principios de este año. En una demanda, sus padres afirmaron que ChatGPT le dio consejos específicos sobre cómo quitarse la vida.
La Comisión Federal de Comercio de EE. UU. (FTC) también inició una investigación sobre varias empresas de tecnología, incluida OpenAI, para examinar cómo los chatbots pueden estar impactando negativamente a niños y adolescentes.
«Dada la gravedad de este asunto, queremos hacerlo bien», dijo Altman el martes. Aseguró que las nuevas herramientas de seguridad de OpenAI permitirán a la empresa aliviar las restricciones mientras continúa abordando graves riesgos para la salud mental.
Los planes de OpenAI incluyen el lanzamiento de una versión actualizada de ChatGPT que permitirá a los usuarios personalizar la personalidad de su asistente de IA, incluidas opciones para respuestas más humanas, uso intensivo de emojis o comportamiento amigable.
El cambio más significativo se producirá en diciembre, cuando OpenAI planea introducir controles de edad más completos para que el contenido erótico esté disponible para adultos verificados.
OpenAI no proporcionó de inmediato detalles sobre los métodos de verificación de edad o controles de seguridad adicionales al proporcionar contenido solo para adultos.
En septiembre, introdujo una experiencia ChatGPT para personas menores de 18 años redireccionándolas a contenido apropiado para su edad que bloqueaba material gráfico y sexual.
También se ha desarrollado una tecnología de predicción basada en la edad que estima si un usuario es mayor o menor de 18 años y cómo interactúa con ChatGPT.
