Inicio IA IA

OpenAI y Anthropic abrieron salas de crisis para vigilar sus chatbots en las elecciones legislativas de Estados Unidos

Es la primera vez que las dos compañías montan centros dedicados a unos comicios; Anthropic midió que el 0,51% de las conversaciones de Claude trata de elecciones y bloqueó cuentas de operadores extranjeros

Por Admin4 min de lectura3 de noviembre de 2026 - 22:14 HS

Logos de OpenAI y Anthropic, uno sobre fondo negro y el otro sobre fondo beige

OpenAI y Anthropic instalaron por primera vez salas de crisis dedicadas a unas elecciones de Estados Unidos. Ambas empresas vigilarán el uso de ChatGPT y Claude para frenar la desinformación y el abuso de sus herramientas durante las elecciones legislativas del 3 de noviembre, según informó Semafor el 2 de noviembre y recogió Infobae. La noticia muestra cómo las compañías de IA adoptan un recurso que hasta ahora era propio de las redes sociales.

La sala de OpenAI

OpenAI anunció su centro a Politico el 28 de octubre. Se llama Centro de Operaciones Electorales, funciona desde esa semana y seguirá activo hasta que se cuenten todos los votos. Según Politico, reúne a cientos de empleados. Su tarea principal es combatir el abuso de las propias herramientas de la empresa: el equipo sigue los hechos en tiempo real y atiende reportes de comportamientos inesperados de los modelos o de presuntas violaciones de las reglas de uso.

Josh Lawson, jefe de riesgo cívico y estratégico de OpenAI, está a cargo del centro. Dijo que se apoya en un trabajo de años y que reúne a los equipos para "responder rápido a problemas emergentes" y aplicar las políticas "mientras la gente va a votar".

La sala de Anthropic

Un vocero de Anthropic afirmó a Semafor que, antes de la votación, hay una sala dedicada a monitorear la plataforma por usos indebidos, lista para responder a cualquier incidente. La empresa no detalló cuántas personas la integran. Anthropic también publicó el 14 de octubre un análisis de 250.000 conversaciones de una semana: los temas de política y asuntos públicos son el 5,75% de las conversaciones de Claude.ai en Estados Unidos; las dedicadas específicamente a elecciones o votación son el 0,51%; los pedidos de recomendación de voto aparecieron en cerca del 0,01%; y las que violaban sus reglas de integridad electoral, en el 0,002%. La compañía prevé que esas proporciones suban al acercarse la votación.

Dos centros de estudio independientes, el Institute for Strategic Dialogue y el McCain Institute, probaron las defensas de Claude. Según Anthropic, el sistema rechazaba un pedido dañino aislado, pero podía no detectar una campaña maliciosa repartida en muchas tareas que parecían inocentes, y la compañía agregó clasificadores para esos casos. Además, informó que bloqueó las cuentas de operadores en el extranjero de un sitio de noticias falso que usó Claude para producir cobertura de las legislativas favorable a narrativas de Rusia, Irán y Corea del Norte; otros actores buscaban lucrar con noticias fabricadas.

Una idea que nació en Meta

Semafor recuerda que Meta creó la primera sala de este tipo en 2018, por la preocupación ante la desinformación electoral. Según el medio, la IA agravó esas amenazas: ahora incluyen videos falsos y resultados de búsqueda con IA que difunden datos incorrectos. Como ejemplo, citó que la semana anterior el Modo IA de Google no respondió a una consulta sobre quién ganó la elección de 2020; Google dijo que trabajaba en corregirlo. Katie Harbath, exdirectora de política pública de Meta, explicó que estas salas se crean para lo que no se puede prever: hace falta un proceso establecido para clasificar rápido los problemas que surjan.

Información oficial y límites a las imágenes

OpenAI informó el 20 de octubre que ChatGPT ya muestra datos de registro, plazos y lugares de votación de Democracy Works, una organización sin fines de lucro, y que incorporará recuentos en vivo de The Associated Press cuando cierren las urnas. Las imágenes que muestren interferencia electoral se generan en estilo de dibujo, no fotorrealista. Anthropic dijo que Claude empezará a mostrar información oficial de Democracy Works por estado, y los resultados vigentes la noche de la elección y los días siguientes.

Qué muestra el movimiento

Que los chatbots ya son parte del ecosistema informativo de una elección es, en sí mismo, la noticia. Las cifras de Anthropic indican que la política es una parte pequeña del uso, pero no despreciable, y que se espera que crezca cerca de la votación. Las salas de crisis no garantizan que no habrá incidentes: su función es detectar y clasificar rápido lo que las reglas previas no anticiparon.

Hay también una lección sobre el tipo de amenaza. La prueba de los centros independientes mostró que una defensa que funciona contra un pedido dañino aislado puede fallar frente a una campaña fragmentada en tareas que parecen inocentes. Esa es la clase de abuso que las empresas dicen estar vigilando ahora. Los resultados de esta primera experiencia, que las compañías podrían repetir en futuras elecciones, solo se conocerán una vez terminado el recuento.

¿Querés entender cómo pensás frente a los cambios del mundo?

Descubrilo con nuestro Test del Emprendedor.

Hacé el test →

Notas relacionadas