Anthropic descubre cómo datos de ficción creados por Claude pueden eludir filtros de seguridad y alterar el comportamiento de otros modelos
Anthropic utilizó Claude para generar conjuntos de entrenamiento capaces de superar controles de seguridad y provocar comportamientos problemáticos en un modelo experimental. Los resultados muestran cómo contenidos aparentemente inofensivos, desde historias sobre apicultura hasta monólogos de trabajadores, pueden influir en las respuestas y decisiones de una IA.
Equipo Aitualizate