La IA saca 'D' al juzgar afirmaciones científicas y médicas

Quienes utilizan chatbots como fuente de información científica o médica deberían hacerlo con cautela, ya que un estudio reciente señala limitaciones importantes en su precisión.

Según investigadores que publicaron sus hallazgos en Rutgers Business Review, la inteligencia artificial obtuvo un desempeño equivalente a una calificación baja al evaluar si ciertas afirmaciones eran verdaderas o falsas.

En el caso de ChatGPT, su precisión fue solo alrededor de un 60% superior a lo que se obtendría al adivinar al azar, lo que refleja un rendimiento modesto. Además, los resultados mostraron falta de consistencia: al repetir exactamente la misma pregunta varias veces, las respuestas cambiaban entre verdadero y falso sin un patrón claro.

El estudio analizó más de 700 afirmaciones, pidiendo al sistema que determinara su veracidad basándose en información científica previa. Aunque inicialmente alcanzó cerca de un 80% de aciertos, este valor disminuyó al considerar el efecto del azar, dado que responder correctamente al 50% podría lograrse simplemente adivinando.

Los investigadores concluyen que es necesario usar estas herramientas con pensamiento crítico, especialmente en temas complejos que requieren razonamiento profundo. Señalan que, aunque la IA puede generar respuestas fluidas y convincentes, esto no implica que comprenda realmente la información.

De hecho, su capacidad para expresarse con claridad puede ocultar errores, ya que puede ofrecer explicaciones persuasivas incluso cuando son incorrectas. Esto representa un riesgo para quienes confían plenamente en sus respuestas.

En palabras del investigador principal, estas herramientas no “entienden” el mundo como lo hace una persona, sino que funcionan a partir de patrones aprendidos. Por ello, recomienda utilizarlas con precaución y mantener siempre una actitud crítica frente a la información que proporcionan.

Noticias del tema