4 formas de escalar experimentos generativos de IA en servicios de producción

Publicado el:

spot_img
- Advertisment -spot_img

El potencial que cambia el juego de la IA generativa (Gen AI) es la charla de la sala de juntas. Sin embargo, convertir las exploraciones de IA en servicios de nivel de producción está demostrando ser un desafío.

Investigaciones recientes de Deloitte encontraron que más de dos tercios de los ejecutivos creen que menos de un tercio de sus experimentos de Gen AI se escalarán completamente en los próximos tres a seis meses.

- Advertisement -[wpcode id="699"]

El consultor dijo que, si bien las empresas han visto «retornos alentadores» en sus inversiones iniciales de IA, a menudo encuentran que crear valor con la Generación de la Generación y implementarlo a escala es un trabajo duro.

Ese sentimiento resonó con los bateadores de Madoc, la cabeza de la nube y la seguridad de TI en Warner Leisure Hotels, cuando Zdnet le pidió que contemple el estado de IA y la exageración que rodea la tecnología emergente.

«Se habla mucho sobre la Generación Ai, y muchas personas dicen que van a poner la tecnología en ciertas áreas de su negocio, pero no hay muchas personas que lo hacen», dijo.

Batters tiene un interés de larga data en explorar la IA y el aprendizaje automático. En lugar de sentarse al margen y esperar a que otros líderes digitales progresen en la IA, está ayudando a Warner a poner en producción la tecnología emergente. Aquí están sus cuatro lecciones de mejores prácticas.

- Advertisement -[wpcode id="699"]

1. Construir desde el fondo

Batters dijo que los líderes digitales y empresariales a menudo se sienten bajo presión para explotar la IA lo más rápido posible, y eso es un error.

«Muchas personas se centran en la Generación de Ai porque es ese sol ardiente en el cielo», dijo. «Sienten que tienen que trabajar en esta área. Y creo que, a veces, primero debes obtener todos los demás bits de los cimientos en su lugar».

Leer  Las mejores ofertas de Apple de Amazon Prime Day en octubre de 2025: Guardar en MacBook, AirPods y más

Batters dijo que los elementos subyacentes esenciales, incluidos los datos, las nubes y las redes, apoyan los esfuerzos de transformación de IA de Warner. Warner tiene una estrategia en la nube y utiliza el enfoque de infraestructura de red como servicio especialista en tecnología Alkira.

Un elemento crucial del enfoque de Warner es GITOPS, un marco operativo que extiende las mejores prácticas de desarrollo de software a la automatización de infraestructura.

Batters dijo que estas fundaciones fuertes son cruciales para evaluar cómo la IA puede impulsar los procesos operativos.

«Regreso a todo el espíritu de lo que creo que es una implementación de la nube adecuada, y eso es un despliegue con una metodología GITOPS y una tubería en su lugar», dijo.

- Advertisement -[wpcode id="699"]

«Una vez que llegas allí, puedes conectar Gen Ai y experimentar con ella».

2. Experimento en nuevas áreas

Batters dijo que una disposición a probar es crucial para los líderes empresariales que desean empujar los servicios de Gen AI a la producción.

«Debe experimentar, asegurarse de que funcione o no funcione, y poder cambiar las cosas rápidamente», dijo, sugiriendo la importancia del mantra repetido en el desarrollo de «Fail Fast».

«Tener una tubería que le permita efectuar el cambio es clave. Luego está listo para comenzar a experimentar con Gen AI. Vea qué funciona y qué no. Si falla, puede recurrir».

Si bien muchas empresas luchan por convertir las exploraciones de IA en sistemas de producción, la investigación del consultor McKinsey sugiere que es la función comercial la que ha visto el mayor aumento en el uso de IA durante los últimos seis meses, con la participación de los encuestados que usan IA que aumenta del 27% al 36%.

Warner ha integrado a Gen AI en su tubería Finops. FINOPS es una disciplina que combina la gestión financiera con operaciones en la nube para optimizar el gasto. Batters dijo que los profesionales de TI de la compañía se están beneficiando de la integración pionera.

Leer  Sam Altman defiende los acuerdos de chip de IA de Trump con EAU y Arabia Saudita, llama a los críticos "ingenuos"

«Es como tener una persona de Finops en el hombro, solo darles sugerencias mientras hacen su trabajo», dijo Batters.

Warner ha trabajado en estrecha colaboración con AWS y sus modelos fundamentales. La compañía también utiliza Infracost, una solución especializada que muestra estimaciones de costos y finge las mejores prácticas para Terraform, la herramienta de infraestructura de código abierto como código.

«Cada vez que implementamos cualquier infraestructura como código, nuestras herramientas de Gen AI analizarán lo que estamos implementando y los recursos asociados en torno a esa implementación, y hará sugerencias para optimizar esos recursos, reducir los costos o incluso el tamaño correcto o ampliar esos recursos», dijo.

3. Dé una opción a los trabajadores

Implementar la generación de Gen AI a menudo implica una nueva forma de trabajar. Entonces, ¿qué piensan los profesionales de TI y línea de negocios de Warner de la tecnología?

Batters dijo que están impresionados, y eso se debe al enfoque cuidadoso de la compañía para la implementación.

«No hacemos cumplir nada», dijo. «Podemos poner las barandillas para evitar que las personas desplegaran cosas si creemos que es demasiado. Pero creemos en dar a los desarrolladores la autonomía de elección y poder decidir si es algo bueno o malo».

Batters dijo que dar a las personas la opción de usar o no usar la tecnología emergente es una parte importante de la innovación.

«Es como decirle a tus hijos: ‘Come tus verduras'», dijo. «Se trata de ellos si los coman. Pero puedes seguir colocando las verduras en sus platos y, al final, se convierte en la norma, y ​​estarán más ajustados para hacerlo, y no las has obligado a tomar una decisión».

Cuando los trabajadores han optado por usar Gen AI, los resultados han sido beneficiosos.

«Podemos ver dónde las personas han realizado sus solicitudes de atracción, y una vez que hayan visto que las recomendaciones regresan, las cambiarán para cumplir con esas recomendaciones», dijo Batters.

Leer  Google lanza su aplicación de codificación de ambientes de IA en 15 países más

«Tenemos algunas estadísticas difíciles para decir que hemos hecho que los desarrolladores ahorren dinero con el tiempo modificando sus recursos de TI».

4. Sigue explorando cuidadosamente

Batters dijo que un desafío que su negocio ha encontrado, y que probablemente sea común en todas las empresas, es garantizar que los datos estén listos para iniciativas lideradas por AI.

Una vez que se elimina ese obstáculo, es más fácil considerar el uso de Gen AI en otros casos de uso.

«Esta tecnología es barata, especialmente cuando la usa dentro de su implementación en la nube, en lugar de ir externamente a las compañías de terceros», dijo.

«Debe adoptar Gen AI. Si no lo usa, su negocio podría quedarse atrás. Sin embargo, debe usar Gen AI de manera responsable, para que no esté exponiendo ninguno de los datos de su empresa».

Batters dijo que la elección de los modelos es crucial. Los líderes empresariales deben asegurarse de que sepan lo que está sucediendo con sus datos y cómo es utilizado por un modelo, incluso para fines de capacitación.

También dijo que la solicitud es fundamental para el éxito, aún más importante, potencialmente, que el modelo que elige su negocio.

«Podría pagar por un modelo mucho más grande y más caro, y alimentar un aviso básico en él. O podría usar un modelo más barato y mucho más pequeño y alimentar un buen aviso, y podría obtener mejores resultados de ese modelo más pequeño», dijo Batters.

«El éxito no se trata del tamaño de la modelo. Se trata de cuán buenos son su indicación y flujos de trabajo. Puede hacerle una pregunta a su modelo y decir: ‘Hola, según la salida que me acaba de dar, voy a hacer otra pregunta’. Por lo tanto, está haciendo múltiples niveles de preguntas dentro de su solicitación y establecimiento de un flujo de trabajo para la consulta «.

¿Quieres más historias sobre AI? Regístrese para la innovaciónnuestro boletín semanal.

spot_img

Relacionada

Leave a Reply

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

spot_img