La inteligencia artificial podría ayudar a los científicos a encontrar un nuevo medicamento. Pero también podría convencerlos de que existe un efecto biológico que, en realidad, nunca ocurrió.

Los sistemas de IA generativa aprenden patrones a partir de grandes cantidades de datos y luego producen contenido nuevo. Aunque solemos asociarlos con textos e imágenes, los investigadores ya los usan para diseñar proteínas, simular células, completar datos experimentales y generar información biológica sintética.

El problema aparece cuando la IA «alucina», es decir, cuando genera resultados que parecen razonables, pero no corresponden con la realidad. 

Consecuencias 

En biología, una alucinación podría tomar la forma de una estructura molecular plausible o de una relación entre moléculas que no existe. Y eso puede tener consecuencias concretas. Un sistema podría hacer que los científicos descarten un medicamento que sí funcionaba, dedicar recursos a un tratamiento inútil o incluso convertir un mecanismo inexistente en una supuesta explicación biológica.

El biólogo computacional Thomas Burger, de la Universidad Grenoble Alpes, estudió este problema en diez posibles usos de la IA generativa en un artículo publicado en la revista Patterns.

No todas estas aplicaciones tienen el mismo riesgo. La diferencia está en qué hacen los investigadores con el resultado.

Por ejemplo, una IA puede revisar miles de posibles medicamentos o proteínas y seleccionar algunos para probarlos en el laboratorio. Si se equivoca, los científicos podrían perder tiempo con un candidato que no sirve o descartar otro que sí habría funcionado. Pero la decisión todavía tendría que pasar por un experimento real. 

Problema 

El panorama cambia cuando los datos generados por IA empiezan a utilizarse como evidencia.

Los datos sintéticos pueden servir para completar mediciones, proteger la privacidad de pacientes, reducir costos o disminuir el uso de animales. Pero también pueden introducir señales que nunca estuvieron presentes. Entonces, una fabricación de la IA podría terminar formando parte de la evidencia utilizada para sostener una conclusión científica.

El problema, explica Burger, no siempre consiste en que la IA invente un descubrimiento de la nada. Puede ser mucho más difícil de detectar. Mientras procesa datos reales, el sistema podría distorsionar, amplificar o modificar alguna señal. Si ese cambio pasa inadvertido, podría alterar la interpretación final. 

Algo parecido ya se observó con AlphaFold 3. En un estudio publicado en Nature en 2024, sus desarrolladores reconocieron que el modelo podía generar estructuras falsas en algunas regiones desordenadas de proteínas.

Incluso una alucinación podría, por casualidad, apuntar hacia un descubrimiento verdadero. La ciencia conoce desde hace tiempo descubrimientos surgidos de errores o accidentes. Pero una coincidencia no basta.

Al final, la regla no es complicada. Una predicción de IA puede convertirse en una hipótesis. Y una hipótesis puede convertirse en un descubrimiento solo después de que un experimento independiente demuestre que la biología está de acuerdo.

Leer artículo completo en robotitus.com →