En un diálogo celebrado la víspera en Dreamforce 2023 en San Francisco, el CEO de OpenAI, Sam Altman, y el CEO de Salesforce, Marc Benioff, profundizaron en el cambiante panorama de la IA generativa. Durante el diálogo, Altman destacó el papel integral que desempeñan las “alucinaciones” a la hora de hacer que los modelos generativos como ChatGPT sean valiosos y dinámicos.
Según Altman, estas alucinaciones, o desviaciones creativas de los datos concretos, no son meros fallos, sino características intrínsecas que potencian la “magia” del sistema. Aclaró que, mientras que las bases de datos tradicionales sirven para recuperar datos factuales, el poder de la IA generativa reside en su capacidad para formular nuevas ideas y perspectivas.
Durante el debate, Altman articuló los matices del equilibrio entre creatividad y precisión en los sistemas de IA. Argumentó que un enfoque puramente factual -en el que el modelo sólo genera contenidos que puede confirmar- es a la vez “ingenuo” y contrario a la naturaleza fundamental de la tecnología. Tal restricción sofocaría el potencial creativo que los usuarios han llegado a valorar.
Benioff, sin embargo, fue más crítico. En su discurso de apertura de la conferencia, argumentó que el término “alucinaciones” es esencialmente un eufemismo de “mentiras”, cuestionando las implicaciones éticas de tales desviaciones en los modelos generativos de IA.
¿Que son las ‘alucinaciones’ en la IA?
En el contexto de la inteligencia artificial, las alucinaciones se refieren a los casos en los que la máquina genera información o contenidos que no se basan estrictamente en los datos sobre los que ha sido entrenada. Es una forma de extrapolación creativa en la que la IA ‘piensa fuera de la caja’. Esto puede ser una ventaja o un inconveniente. Por un lado, ofrece un grado de creatividad que hace que estos sistemas sean útiles para el brainstorming o la generación de ideas. Por otro, también puede conducir a la desinformación si no se gestiona con cuidado. Es un arma de doble filo que la industria de la IA, representada por gente como Altman y Benioff, está debatiendo acaloradamente.
