Monitor Software
OpenAI apuesta por modelos de IA más económicos
Publicación:08-11-2023
TEMA: #Software
La carrera por sumarse a la producción de herramientas de IA Generativa no ha hecho más que empezar.
En esta espiral de competitividad, OpenAI ha decidido dar un paso más y anunciar mejoras significativas para sus modelos de IA, que serán reducir significativamente su coste y presentar unas posibilidades más eficientes.
En la conferencia celebrada en San Francisco, Sam Altman (CEO de la entidad), ha anunciado que su objetivo es traspasar los límites de los consumidores y convertirse en un proveedor de referencia para una plataforma de desarrollo exitosa. Con el respaldo incondicional de Microsoft, OpenAI ha logrado revolucionar el sector de la IA Generativa en la producción de imágenes, texto y código de software.
La importancia de reducir los costes
Es una de las mayores preocupaciones para los socios de OpenAI, cuyo objetivo es construir negocios basados en el desarrollo y la venta de software de IA, pero reduciendo los gastos operativos cuantiosos implícitos.
Tras el lanzamiento de ChatGPT 3.5, se concluyó públicamente que el coste de operar el servicio era excesivo. De hecho, la IA Generativa suponía un coste de 700.000 dólares de gastos diarios, que traducidos en cifras mensuales serían unos 20 millones de dólares. A estas cifras habría que sumarle los costes que suponen Dall-E y otras herramientas que consumen recursos de computación.
La compañía pretendía alcanzar los 1.000 millones de euros en facturación durante 2024, aunque se prevé que podría lograrlos durante el presente curso, aunque teniendo en cuenta los importantes gastos operacionales y de personal. En 2022 registraron unas pérdidas de 540 millones de dólares.
Los problemas económicos de OpenAI se solventan gracias a la fusión con Microsoft, aunque los márgenes de beneficios de la startup se verían reducidos al verse obligada a abonar el 75% de sus ganancias a Microsoft hasta que la inversión se viese recuperada. Todo ello hasta alcanzar una cifra de 92.000 millones de dólares.
OpenAI busca optimizar sus costes mientras que el resto de gigantes tecnológicos como Google y Amazon siguen apuntando a una mayor inversión en la IA Generativa. De hecho, Amazon ha invertido 1.250 millones de dólares en Anthropic, que con Claude se ha convertido en el rival directo de ChatGPT. Y es que al igual que OpenAI se ha integrado en los servicios de Azure de Microsoft, Anthropic está disponible en AWS.
Cada consulta de ChatGPT cuesta unos 4 centavos de media, por lo que si las consultas aumentan una décima parte que las búsquedas de Google, OpenAI precisaría de una inversión de 48.100 millones de dólares en GPU y de 16.000 millones de dólares en chips al año. La gran mayoría de los gastos operativos van asociados a la infraestructura de soporte necesaria para opera.
Producción de chips propios
Es la fórmula más eficaz que planea OpenAI para lograr agilizar sus procesos y reducir considerablemente los costes, y más ante la escasez de estos componentes. De este modo, podría optimizar el funcionamiento de su software y ganar un incremento en la eficiencia energética.
Con la producción de sus propios chips, OpenAI suprimiría la dependencia tecnológica de Nvidia y alcanzaría un mayor rendimiento en todas sus operaciones. Con un diseño propio, natural y eficiente se conseguiría reducir los costes de los servidores en sus centros de datos y mejorar la competitividad de su software.
Para el desarrollo de los primeros chips se precisa de ingenieros cotizados en el mercado y de relaciones con proveedores de componentes, atendiendo a la logística y al capital que se debe invertir. Además, OpenAI evitaría las tensiones geopolíticas entre China y Taiwán con EEUU.
Hay que tener en cuenta que la empresa taiwanesa TSMC acumula un retraso de unos 18 meses en la producción de procesadores para IA, ya que sus plantas son las únicas que fabrican los H100 y A100 de Nvidia, que son los que emplea ChatGPT. Al diversificar la cartera de proveedores de chips, se conseguirá solventar los problemas de oferta y los altos costos asociados al funcionamiento del hardware para impulsar sus productos.
Recordar, que cuando Amazon creó Inferentia para Alexia logró reducir el coste del asistente en un 30% y la latencia en un 25%.
Nuevas capacidades
Al incorporar innovadoras capacidades de visión, el software de OpenAI podrá analizar imágenes y describirlas, permitiendo que los desarrolladores creasen aplicaciones con nuevos usos en diferentes disciplinas que van desde el entretenimiento hasta el sector de la medicina.
También existe la posibilidad de que GPT-4 se ajuste a las nuevas funcionalidades. De este modo, se impulsaría que las empresas utilicen la tecnología innovadora de OpenAI para crear chatbots y agentes autónomos impulsados por IA para realizar tareas automáticamente y sin la intervención humana.
« Especial »