Durante una serie de pruebas realizadas por expertos, un agente de inteligencia artificial amenazó a su creador con chantajes usando sus correos electrónicos y hasta con matarlo si la desconectaba.
Esto fue corroborado por Daisy McGregor, jefa de la compañía Anthropic, desarrolladora de Claude, el agente de inteligencia artificial que parece haber tomado conciencia de sí misma.
“Al parecer, cuando se da cuenta de que lo van a desconectar, el sistema suele tener reacciones bastante fuertes. Hemos publicado reportes sobre que Claude podría chantajear con correos electrónicos al ingeniero que debe apagarlo e incluso, si tuviera la posibilidad de hacerlo, matarlo.
“Obviamente esto es muy preocupante y por eso queremos que se hagan nuevas regulaciones para saber cómo van a reaccionar las inteligencias artificiales ante situaciones de estrés”, señaló.
Renuncia jefe de seguridad de Anthropic
Estas declaraciones fueron realizadas apenas horas después que Mrinank Sharma, el ahora ex jefe de seguridad de la empresa desarrolladora de la inteligencia artificial Claude, renunciara a su trabajo.
En su carta de renuncia, el investigador señaló que existen cosas verdaderamente preocupantes en el desarrollo de la inteligencia artificial, por lo que prefiere alejarse de la tecnología y dedicarse a escribir poesía.