El ejemplo que Google utilizó para demostrar su propio chatbot de inteligencia artificial (IA) contenía un error fáctico. Bard, el competidor de Google al chatbot ChatGPT de OpenAI, presentado a principios de esta semana, pretendía explicar a un niño los descubrimientos del telescopio James Webb. Sin embargo, la respuesta de la IA era técnicamente incorrecta. Esto hace temer que una IA no esté aún preparada para integrarse en los motores de búsqueda.
Para la presentación de su “IA Conversacional” Bard, Google mostró cómo reacciona la IA del chat a la pregunta sobre qué descubrimientos del telescopio espacial James Webb (JWST) se le podría contar a un niño de nueve años. Bard enumera tres puntos, el tercero de los cuales es erróneo. El JWST no es el primer telescopio que toma imágenes de un planeta fuera de nuestro sistema solar, como afirma la IA. En realidad fue el VLT/NACO, que en 2004 fue capaz de obtener imágenes de un exoplaneta situado a 230 años luz de la Tierra.
Vía Twitter, el usuario Grant Tremblay escribió: “No es por ser un – bueno, en realidad sí – cretino, y estoy seguro de que Bard será impresionante, pero que conste: JWST no tomó ‘la primera imagen de un planeta fuera de nuestro sistema solar’. En cambio, la primera imagen la hicieron Chauvin y otros (2004) con el VLT/NACO utilizando óptica adaptativa”.
Atribuyen el error al modelo estadístico
Se especula que Google probablemente eligió el JWST como ejemplo de Bard porque el chatbot de IA ChatGPT, financiado por Microsoft, sólo se entrenó en fechas hasta finales de 2021, mientras que el JWST no empezó a funcionar hasta mediados de 2022. Irónicamente, el motor de búsqueda normal de Google da la respuesta correcta a la pregunta “cuál es la primera imagen de un exoplaneta”. Al parecer, la IA fue inducida a error en su respuesta por los comunicados de prensa de la NASA, pero el JWST sólo detectó su primer exoplaneta, no lo fotografió por primera vez.
Los expertos ya han advertido, según la revista New Scientist, que existe el riesgo de que estos chatbots de IA den respuestas inexactas y las presenten como hechos, en caso de que la IA determine sus conclusiones basándose en la disponibilidad estadística de la información y no en su exactitud. Este enfoque, dijo, es uno de los puntos débiles de los sistemas estadísticos.
El Financial Times, por su parte, culpa al error del chatbot Bard de IA y a la falta de revisión humana antes de la publicación de una caída del precio de las acciones del grupo Alphabet de Google. Según la publicación, la IA aún no está lo bastante madura para un uso productivo. La cotización de Alphabet se ha contraído en más de un siete por ciento sólo en el último día.
Nota: la imagen de ilustración no fue captada por el telescopio James Webb
