Introducción
OpenAI anunció el 30 de octubre de 2026 una serie de medidas para reforzar la prevención de la violencia en ChatGPT, con cambios en la información que pueden proporcionar sus modelos, nuevos mecanismos de intervención y restricciones adicionales para adolescentes.
La compañía también se comprometió a publicar informes periódicos sobre seguridad comunitaria. Como parte del anuncio, reveló que durante el tercer trimestre de 2026 realizó más de 200 derivaciones a las fuerzas del orden por amenazas inminentes de violencia.
Las nuevas salvaguardas comenzarán a desplegarse durante las próximas semanas y seguirán ajustándose con el tiempo.
Qué anuncia OpenAI
El anuncio se centra en dos iniciativas: un nuevo informe de seguridad comunitaria y una ampliación de las restricciones relacionadas con armas y contenido que podría facilitar actos violentos, especialmente para usuarios menores de edad.
Las medidas abarcan distintos niveles de protección dentro de ChatGPT:
- Restricciones adicionales sobre los detalles de ataques violentos ocurridos anteriormente.
- Respuestas más conservadoras cuando las conversaciones recientes presenten señales de posible violencia.
- Mecanismos automatizados capaces de interrumpir conversaciones relacionadas con patrones preocupantes de violencia.
- Límites más amplios sobre información práctica de armas y sistemas de seguridad para adolescentes.
- Mejoras en la identificación de usuarios menores de 18 años y en los mecanismos de supervisión parental.
OpenAI también mantiene la posibilidad de prohibir cuentas que infrinjan sus políticas relacionadas con actividades violentas.
Informe de seguridad comunitaria: publicación prevista para 2027
OpenAI se comprometió a lanzar un Community Safety Report, un informe destinado a explicar sus acciones para prevenir la violencia y abordar otros problemas de seguridad comunitaria, así como a evaluar la eficacia de sus salvaguardas.
El documento describirá cómo se entrenan los sistemas para identificar, investigar y responder a situaciones preocupantes. También incorporará ejemplos anonimizados, información sobre nuevas medidas de mitigación, modificaciones de políticas y datos relevantes.
El primer informe se publicará a principios de 2027 y cubrirá el segundo semestre de 2026. Posteriormente, OpenAI actualizará esta información cada seis meses.
Con esta iniciativa, la compañía busca ofrecer una visión periódica de las medidas que aplica y de los resultados de sus sistemas de seguridad.
Límites más estrictos sobre ataques violentos
OpenAI amplía las restricciones que determinan qué información puede ofrecer ChatGPT acerca de episodios violentos.
Sus modelos ya tienen prohibido proporcionar instrucciones para planificar o ejecutar actos de violencia. La actualización incorpora límites adicionales sobre las respuestas relacionadas con ataques masivos del pasado y las personas responsables de ellos.
ChatGPT seguirá pudiendo explicar los acontecimientos, sus consecuencias para las víctimas y las comunidades afectadas, así como abordar la identificación de señales de alerta y la prevención de futuros episodios violentos.
Sin embargo, se restringirá el nivel de detalle de determinadas respuestas, incluso cuando esa información pueda encontrarse en otras fuentes públicas de internet.
Entre los contenidos sujetos a mayores restricciones se encuentran las reconstrucciones detalladas de ataques anteriores, especialmente aquellas que describan las armas y los equipos utilizados o la manera en que fueron obtenidos.
También se limitarán las comparaciones minuciosas sobre la magnitud del daño cuando puedan contribuir a aumentar la notoriedad de quienes perpetraron los ataques.
Estos límites se aplicarán a todos los usuarios, independientemente de su edad o del motivo de su consulta.
Señales de alerta e intervención automática
Otro componente del anuncio afecta a la capacidad de ChatGPT para adaptar sus respuestas cuando identifica señales relacionadas con posibles conductas violentas.
En mayo, OpenAI había explicado que ChatGPT podía utilizar resúmenes breves y objetivos de señales de alerta detectadas previamente para responder con mayor precaución en conversaciones posteriores.
Ahora, cuando los chats recientes presenten indicios de posible violencia, el sistema adoptará un comportamiento más restrictivo al proporcionar información susceptible de utilizarse de manera indebida.
Esta precaución adicional también se aplicará cuando ChatGPT estime que una persona tiene menos de 18 años, incluso si sus conversaciones anteriores no muestran intención violenta.
Interrupción de conversaciones preocupantes
OpenAI trabaja con especialistas en salud mental y prevención de la violencia para desarrollar mecanismos automatizados de intervención más temprana.
Una de las medidas permitirá que ChatGPT termine automáticamente una conversación cuando detecte señales de fijación con la violencia o con causar lesiones graves a otra persona.
El objetivo es interrumpir ese patrón de conversación en el momento en que se identifica.
Si el sistema termina varias conversaciones de una misma cuenta por este motivo, también podrá aplicar una suspensión temporal del acceso.
Estas intervenciones se suman a las prohibiciones de cuentas por incumplimiento de las políticas sobre actividades violentas.
Más protecciones para adolescentes en ChatGPT
OpenAI también anunció cambios específicos para ChatGPT for Teens, la experiencia que incorpora salvaguardas diseñadas para usuarios menores de 18 años.
Hasta ahora, las restricciones ya impedían ayudar a planificar o ejecutar violencia y proporcionar asistencia a adolescentes para encontrar u obtener armas.
La actualización amplía estos límites para incluir información práctica relacionada con armas y sistemas de seguridad que pudiera utilizarse indebidamente para facilitar actos violentos.
Las restricciones se aplicarán incluso cuando una pregunta parezca inofensiva o cuando el adolescente no haya mostrado señales de intención violenta.
Al mismo tiempo, los menores podrán continuar utilizando ChatGPT para obtener información orientada a prevenir o desactivar situaciones violentas, buscar apoyo y establecer contacto con un adulto de confianza.
Identificación de edad más continua
OpenAI también está reforzando su sistema de predicción de edad, presentado el año pasado.
Este mecanismo analiza múltiples señales, incluidos patrones de comportamiento, para estimar si un usuario es menor o mayor de 18 años.
La actualización permite evaluar continuamente nuevas señales y trasladar a los adolescentes a la experiencia correspondiente a menores de edad cuando resulte apropiado.
Los usuarios clasificados incorrectamente dispondrán de un procedimiento rápido y diseñado para proteger la privacidad con el que podrán confirmar que son adultos y retirar las protecciones adicionales.
Para esta comprobación, OpenAI utiliza Persona, su socio de verificación de edad.
Controles parentales y nuevas notificaciones
Los controles parentales de ChatGPT permiten vincular las cuentas de padres y adolescentes para gestionar conjuntamente los ajustes de seguridad.
Las cuentas vinculadas ya cuentan con un mecanismo de alertas que puede avisar a los padres cuando revisores con formación especializada identifican preocupaciones graves relacionadas con autolesiones o comportamientos que podrían asociarse con trastornos alimentarios.
En julio, OpenAI amplió esas notificaciones para informar a los padres cuando la cuenta de su adolescente fuera desactivada por infringir las políticas de uso relacionadas con violencia.
La compañía también trabaja en incorporar nuevas notificaciones para los casos en los que la cuenta de un adolescente sea pausada por conversaciones repetidas sobre violencia.
Resumen de las nuevas medidas
- Derivaciones a las autoridades: Más de 200 durante el tercer trimestre de 2026 por amenazas inminentes de violencia
- Informe de seguridad: Primera publicación a principios de 2027, con datos del segundo semestre de 2026
- Frecuencia del informe: Actualizaciones cada seis meses
- Ataques violentos anteriores: Restricciones adicionales sobre reconstrucciones, armas, equipos y comparaciones detalladas de daños
- Señales de alerta: Respuestas más conservadoras ante indicios recientes de posible violencia
- Intervención automática: Posibilidad de terminar conversaciones y pausar temporalmente cuentas ante patrones repetidos
- Adolescentes: Restricciones ampliadas sobre información práctica de armas y sistemas de seguridad
- Predicción de edad: Evaluación continua de señales para aplicar las protecciones correspondientes a menores de 18 años
- Controles parentales: Desarrollo de alertas por pausas de cuentas relacionadas con conversaciones repetidas sobre violencia
- Despliegue: Comienzo durante las próximas semanas
OpenAI en contexto
ChatGPT es uno de los productos de inteligencia artificial más utilizados del mundo.
En este contexto, OpenAI está ampliando las medidas de seguridad relacionadas con la prevención de la violencia, el tratamiento de señales de alerta y las protecciones destinadas a adolescentes.
El anuncio combina nuevas restricciones sobre determinados contenidos con mecanismos de intervención y un compromiso de informar periódicamente sobre la eficacia de las salvaguardas de la compañía.
