En la última década, la inteligencia artificial (IA) se ha convertido en una herramienta cotidiana en prácticamente todas las áreas del conocimiento. Modelos de lenguaje como ChatGPT-5 han demostrado ser capaces de generar, a partir de un simple prompt, códigos funcionales y optimizados en los lenguajes de programación más populares. Esta capacidad ha abierto oportunidades sin precedentes para la aceleración de proyectos científicos, la automatización de tareas repetitivas y el acceso a soluciones técnicas complejas sin requerir un conocimiento profundo del lenguaje de programación utilizado.
Sin embargo, esta misma facilidad plantea nuevos desafíos para la comunidad científica. La posibilidad de obtener rápidamente fragmentos de código totalmente funcionales y listos para ejecutarse puede convertir a la IA en una generadora de “cajas negras” para el usuario, donde el diseño algorítmico o del código generado no es comprendido plenamente. En el ámbito del software científico, donde la trazabilidad, la reproducibilidad y la precisión son esenciales, esta opacidad puede derivar en riesgos importantes: errores no detectados, suposiciones implícitas no verificadas o dependencia excesiva de soluciones automáticas.
El problema se agudiza cuando el desarrollo del pensamiento lógico y la capacidad de diseñar algoritmos se ven desplazados por la mera capacidad de solicitar soluciones prehechas. Esto puede contribuir a una precarización del conocimiento técnico, afectando especialmente a investigadores en formación o a equipos que no cuentan con sólidos fundamentos en programación y desarrollo de software científico. Resultados de modelos teóricos obtenidos con métodos numéricos pueden verse comprometidos por la creciente falta de supervisión experta de los algoritmos utilizados para generarlos.
Este panel propone un espacio de diálogo interdisciplinario, personas científicas, desarrolladores, ingenieras, especialistas en IA y todas aquellas interesadas en este ámbito, para abordar estos retos y reflexionar sobre: i) Estrategias para garantizar la comprensión y validación del código generado por IA. ii)Buenas prácticas de documentación, trazabilidad y auditoría del software científico. iii) Herramientas y metodologías que promuevan la transparencia de los modelos y algoritmos empleados. iv)Formas de integrar la IA como complemento, y no reemplazo, del razonamiento humano y la enseñanza de fundamentos lógicos.
La discusión buscará generar recomendaciones concretas para un uso responsable de la IA en el desarrollo científico, fomentando que las nuevas generaciones de investigadores no solo utilicen estas herramientas, sino que comprendan y cuestionen las soluciones que ofrecen.