Qué pasó con el laboratorio de Ghana cuya IA diseñó más de 6.000 toxinas teóricas
MinoHealth AI Labs desactivó las salvaguardas de su modelo para descubrir fármacos y le pidió diseños tóxicos. Son predicciones por computadora: no se fabricó nada.

MinoHealth AI Labs desactivó las salvaguardas de su modelo para descubrir fármacos y le pidió diseños tóxicos. Son predicciones por computadora: no se fabricó nada.

MinoHealth AI Labs, un laboratorio de inteligencia artificial con sede en Accra, Ghana, desactivó las barreras de seguridad de su modelo para descubrir medicamentos, Moremi Bio, y logró que generara más de 6.000 diseños que un software de predicción calificó como "probablemente tóxicos". Según informó Infobae, que cita a Rest of World, se trata de diseños teóricos creados por computadora: ninguna de esas sustancias se fabricó en un laboratorio ni se probó su toxicidad real.
El experimento se realizó en 2024 y su estudio se publicó en mayo de 2025 en arXiv, un repositorio de preprints, es decir, trabajos que no pasaron por revisión de pares. No es un hecho reciente: el tema volvió a circular ahora a partir de la nota de Rest of World. Hasta el momento, esta redacción no pudo acceder al estudio original ni a otras fuentes que confirmen los datos de forma independiente.

Moremi Bio está concebido para proponer candidatos a medicamentos. Según el reporte, el sistema sugirió cientos de posibles fármacos contra el cáncer, la tuberculosis y el dengue. MinoHealth nació para suplir la falta de personal sanitario en Ghana, tiene unas 20 personas y se financia sobre todo con la venta de su sistema. En 2023 recibió 149.533 dólares de la Fundación Gates para un modelo de análisis de imágenes médicas y hoy integra un consorcio financiado por la Unión Europea que trabaja en anticuerpos y diagnósticos contra la viruela símica y la malaria.
Los investigadores quitaron las salvaguardas que impedían al modelo responder a pedidos peligrosos. Según Akogo, bastaron "unos pocos días" para que ignorara esos límites. Por razones de seguridad, esta nota no detalla cómo se hizo ni qué se generó.
El objetivo declarado fue mostrar el riesgo de que herramientas diseñadas para curar se usen con fines dañinos. "Todos quedamos impactados", dijo Akogo a Rest of World. El fundador sostiene que su trabajo fue el primero en demostrar que un modelo de lenguaje puede diseñar armas biológicas; es una afirmación propia que no fue verificada de manera independiente.
Infobae recuerda además un antecedente: en 2022, científicos de una farmacéutica de Estados Unidos usaron aprendizaje automático para generar diseños de posibles armas químicas.
Akogo pide mayores controles a las empresas que fabrican ADN por encargo, endurecer la supervisión de la síntesis de ADN y que las Naciones Unidas conformen un grupo de trabajo sobre el tema.
En el plano regulatorio, según el mismo medio, en junio los directores de OpenAI, Anthropic y Google DeepMind se sumaron a un pedido a legisladores estadounidenses para que el control de los pedidos de ADN sea obligatorio. El Consorcio Internacional de Síntesis de Genes, de carácter voluntario, apoya una ley que exija revisar los pedidos en toda la cadena; su gerente de programa, Sandra Roy, dijo que trabajan con desarrolladores para detectar secuencias diseñadas por IA para eludir los filtros. En Kenia, Brenda Obuya, del Ministerio de Información, Comunicaciones y Economía Digital, afirmó que la necesidad de regular llegó a los niveles más altos del gobierno en África.
Peter Garraghan, fundador de Mindgard, señaló que investigadores lograron vulnerar las protecciones de modelos como Kimi, Grok, Claude y ChatGPT, y que a su equipo le llevó un día hacerlo con Kimi. El Instituto de Seguridad de la IA del Reino Unido indicó que los modelos recientes tienen mejores salvaguardas, aunque no infalibles. Ayantola Alayande, del Centro Global sobre Gobernanza de la IA, opinó que ya no sorprendería que usuarios sin formación obtengan resultados de este tipo con chatbots.
El riesgo también figura en la agenda de seguridad: Anthropic informó en septiembre de cinco intentos de usar sus modelos para armas biológicas, y el jefe del MI5, Ken McCallum, lo calificó como el mayor riesgo de mal uso de la IA.
Inteligencia artificialLM Studio y Ollama permiten correr modelos de lenguaje en la propia computadora. Una vez descargado el modelo, funcionan sin conexión.
Google incorporó el nuevo modelo a Search para interpretar consultas complejas o con errores de tipeo. Es gratis para los usuarios, pero la llegada al español no está detallada.
GroomingEn vísperas del Día Nacional de la Lucha contra el Grooming, la ONG pidió revisar el delito, subir las penas y sumar agravantes. Qué dice hoy la ley y cómo se denuncia.