Armas biológicas, estafas y espionaje: qué descubrió Anthropic sobre el mal uso de la IA
La empresa detrás del modelo Claude publicó un informe con los casos más graves de uso malicioso detectados en su plataforma: desde investigadores que pedían ayuda para trabajar con virus peligrosos hasta operaciones de propaganda estatal.
Anthropic, la empresa que desarrolla el modelo de inteligencia artificial Claude, publicó un informe que detalla los intentos más preocupantes de actores maliciosos por sacarle provecho a su tecnología. La compañía bloqueó cada uno de los casos, pero el reporte funciona como un mapa de los riesgos reales que empiezan a aparecer con la IA generativa.
Intentos de avanzar en armas biológicas
La empresa reportó al menos cinco intentos de científicos de usar Claude en investigaciones vinculadas a armas biológicas. Uno de los casos, detectado en mayo, involucró a alguien que buscaba ayuda para redactar propuestas de financiamiento para investigación de "ganancia de función" con el virus del chikungunya, en articulación con una institución de carácter militar.
Jacob Klein, responsable de inteligencia de amenazas de Anthropic, señaló que estos casos no se parecen al cliché de ciencia ficción: "no estás viendo a alguien al estilo de un cómic diciendo: quiero construir un arma biológica". El riesgo aparece disfrazado de investigación legítima, lo que complica distinguir una intención maliciosa de un uso académico real.
Propaganda, espionaje y armas convencionales
El informe también documentó medios estatales rusos usando Claude para generar propaganda camuflada de periodismo, con acusaciones falsas sobre las elecciones en Moldavia. Actores vinculados a los gobiernos de China e Irán, por su parte, apuntaron a comunidades de la diáspora con fines de espionaje.
A eso se suman seis casos más —tres en China, dos en Rusia y uno en Yemen— de personas que intentaron usar la IA para el desarrollo de armas convencionales: armas de fuego, misiles, drones armados y explosivos.
Una zona gris difícil de vigilar
Andrew Weber, del Council on Strategic Risks, calificó los hallazgos como "ejemplos espeluznantes" de actores respaldados por estados que buscan aprovechar las capacidades de la inteligencia artificial.
Anthropic reconoció además una dificultad de fondo: buena parte de la investigación biológica legítima, como el desarrollo de vacunas, usa el mismo conocimiento que podría aplicarse para crear un patógeno peligroso. Por eso la compañía adoptó un criterio conservador y prefiere frenar un caso dudoso antes que dejar pasar una actividad maliciosa real.
El informe no cierra el debate sobre qué tan seguras son estas herramientas: lo abre. A medida que la IA generativa se vuelve más capaz, la línea entre investigación legítima y uso malicioso se vuelve, también, más difícil de trazar.
¿Querés entender cómo pensás frente a los cambios del mundo?
Descubrilo con nuestro Test del Emprendedor.
Comentarios (0)
- Sé el primero en comentar.