Las empresas de tecnología se enfrentan a una realidad complicada: los chatbots basados en inteligencia artificial (IA) son costosos de operar y mantener, a tal punto que pierden dinero con cada interacción. Aunque pueden parecer revolucionarios, estos chatbots de IA, como ChatGPT o Bard, están limitados por los costos de operación. Los modelos que vemos públicamente no son los mejores disponibles; las versiones superiores son simplemente demasiado costosas como para ser implementadas.
El costo de operación de estos chatbots es tan alto que incluso las empresas más ricas del mundo están buscando formas de rentabilizarlos. El alto costo de las GPU necesarias para hacer funcionar estos sistemas también limita qué compañías pueden permitirse usarlos. Esto ha resultado en una carrera entre empresas para acceder a estos valiosos chips, escribe The Washington Post.
OpenAI continúa ofreciendo gratuitamente ChatGPT, en su modelo GPT-3.5, debido a los altos costos de operación de la versión más potente GPT-4.0. Google, por su parte, aún no ha incorporado un chatbot de IA en su buscador principal, optando por no utilizar su modelo de lenguaje más grande cuando lanzó su chatbot Bard.
La operación de estos modelos de lenguaje basados en IA es costosa, comenzando con su desarrollo y entrenamiento. El proceso requiere grandes cantidades de datos y software para identificar patrones en el lenguaje. Luego, cada consulta a un chatbot como ChatGPT es procesada por supercomputadoras en centros de datos que hacen numerosos cálculos a alta velocidad al mismo tiempo.
Para enfrentar este desafío, las empresas tecnológicas están buscando maneras de hacer que los modelos de IA sean más eficientes y rentables. Sin embargo, hay una creciente preocupación sobre los costos ambientales y sociales de la IA generativa. El procesamiento intensivo de datos tiene implicaciones para las emisiones de gases de efecto invernadero, y el uso de energía podría ralentizar el desarrollo y la aplicación de IA para usos más significativos, como en la atención médica y la detección del cáncer, concluye señalando The Washington Post.
