Hace casi 80 años, en julio de 1945, MH Hasham Premji fundó Western India Vegetable Products Limited en Amalner, una ciudad en el distrito de Jalgaon de Maharashtra, India, ubicada a orillas del río Bori. La compañía comenzó como fabricante de aceites de cocina.

En la década de 1970, la compañía giró y cambió su nombre a Wipro. A lo largo de los años, se ha convertido en una de las compañías tecnológicas más grandes de la India, con operaciones en 167 países, casi un cuarto de millón de empleados e ingresos al norte de $ 10 mil millones. La compañía está dirigida por el presidente ejecutivo Rishad Premji, nieto del fundador original.

Hoy, Wipro se describe a sí mismo como un «proveedor de servicios de transformación de TI, consultoría y procesos comerciales líderes» líderes «. En esta entrevista exclusiva, ZDNet habló con Kiran Minnasandram, VP y CTO de Wipro FullStride Cloud.

Encabeza iniciativas tecnológicas estratégicas y lidera el desarrollo de soluciones de aspecto futuro. Su principal papel es impulsar la innovación y capacitar a las organizaciones al proporcionarles soluciones de última generación.

Con un enfoque en la computación en la nube, arquitecta e implementa arquitecturas avanzadas basadas en la nube que transforman la forma en que operan las empresas, al tiempo que optimizan las operaciones, mejoran la escalabilidad y fomentan la flexibilidad para impulsar a los clientes hacia adelante en sus viajes digitales.

Como se puede imaginar, la IA se ha convertido en un gran enfoque para la empresa. En esta entrevista, tuvimos la oportunidad de discutir la importancia de la ética y la sostenibilidad de la IA en lo que respecta al futuro.

Cavemos.

Valores de la empresa

ZDNET: ¿Cómo se define la IA ética y por qué es crítico para las empresas hoy?

Kiran Minnasandram: AI ético no solo cumple con la ley, sino que también está alineado con el valor que apreciamos en Wipro. Todo lo que hacemos está enraizado en cuatro pilares.

La IA debe estar alineada con nuestros valores en torno al individuo (privacidad y dignidad), la sociedad (equidad, transparencia y agencia humana) y el medio ambiente. El cuarto pilar es la robustez técnica que abarca el cumplimiento legal, la seguridad y la robustez.

ZDNET: ¿Por qué muchas empresas luchan con la ética de IA y cuáles son los riesgos clave que deberían abordar?

Km: La lucha a menudo proviene de la falta de un vocabulario común alrededor de la IA. Es por eso que el primer paso es establecer una estrategia de organización cruzada que reúna a equipos técnicos, así como equipos legales y de recursos humanos. La IA es transformador y requiere un enfoque corporativo.

En segundo lugar, las organizaciones deben comprender cuáles son los principios clave de su enfoque de IA. Esto va más allá de la ley y abarca los valores que desean mantener.

En tercer lugar, pueden desarrollar una taxonomía de riesgos basada en los riesgos que prevían. Los riesgos se basan en la alineación legal, la seguridad y el impacto en la fuerza laboral.

ZDNET: ¿Cómo impacta la adopción de IA los objetivos de sostenibilidad corporativa, tanto positiva como negativamente?

Km: La adopción de IA tiene y tendrá un impacto significativo en los objetivos de sostenibilidad corporativa. En el lado positivo, la IA puede mejorar la eficiencia operativa al optimizar las cadenas de suministro y mejorar la gestión de recursos a través de un monitoreo más preciso del consumo de energía y carbono, así como mejorando los procesos de recopilación de datos para los informes regulatorios.

Por ejemplo, las compañías de fabricación o logística pueden utilizar IA para optimizar las rutas de transporte, lo que lleva a una reducción de las emisiones de carbono.

Por el contrario, el rápido desarrollo y el despliegue de IA dan como resultado un aumento del consumo de energía y las emisiones de carbono, así como el uso sustancial del agua para los centros de datos de enfriamiento. El entrenamiento de grandes modelos de IA exige una potencia computacional significativa, lo que resulta en una huella de carbono más grande.

Impacto ambiental

ZDNET: ¿Cómo deben las empresas equilibrar el impulso para la innovación de IA con responsabilidad ambiental?

Km: Como punto de partida, las empresas deberán establecer políticas, principios y pautas claras sobre el uso sostenible de la IA. Esto crea una línea de base para las decisiones en torno a la innovación de IA y permite a los equipos tomar las decisiones correctas en torno al tipo de infraestructura de IA, modelos y algoritmos que adoptarán.

Además, las empresas deben establecer sistemas para rastrear, medir y monitorear eficazmente el impacto ambiental del uso de IA y exigir esto de sus proveedores de servicios.

Hemos trabajado con los clientes para evaluar las políticas actuales de IA, involucrar a las partes interesadas internas y externas, y desarrollar nuevos principios sobre la IA y el medio ambiente antes de capacitar y educar a los empleados en varias funciones para incrustar el pensamiento en los procesos cotidianos.

Al crear más transparencia y responsabilidad, las empresas pueden impulsar la innovación significativa de IA mientras son conscientes de sus compromisos ambientales. Hay un número significativo de grupos de la industria cruzada y las partes interesadas que se están estableciendo para apoyar a las empresas con la exploración de los dilemas ambientales, los requisitos de medición e impacto asociados con la innovación de IA.

Con una agenda increíblemente rápida, aprender de los demás y colaborar en un escenario global es fundamental. Wipro ha dirigido varios esfuerzos globales colaborativos en la IA y el medio ambiente junto con nuestros clientes. Estamos bien ubicados para ayudar a nuestros clientes a navegar por el paisaje regulatorio.

ZDNET: ¿Cómo evolucionan las regulaciones globales para abordar las preocupaciones éticas de IA y sostenibilidad?

Km: La IA nunca ha existido de forma aislada. La privacidad, la protección del consumidor, la seguridad y la legislación de derechos humanos se aplican a la IA. De hecho, los reguladores de protección de datos juegan un papel clave en la salvaguardia de las personas de los daños de la IA. La protección del consumidor juega un papel clave cuando se trata de precios algorítmicos, por ejemplo, y la legislación de no discriminación puede apoyar casos de discriminación algorítmica.

Es muy importante que las organizaciones comprendan cómo se aplica la legislación existente a la IA y alegar la fuerza laboral sobre cómo incrustar la protección legal, la privacidad y la seguridad en la adopción de la IA.

Además de la legislación existente, se están promulgando algunas leyes específicas de AI. En Europa, la Ley de AI de la UE rige la comercialización de productos de IA. Cuanto más riesgoso sea el producto, más necesita tener controles envueltos alrededor de él.

En los Estados Unidos, los estados individuales están legislando alrededor de la IA, especialmente en el contexto de la gestión laboral, que posiblemente es una de las áreas más complejas de despliegue de IA.

Mayor concepto erróneo

ZDNET: ¿Cuáles son los conceptos erróneos más grandes sobre la ética y la sostenibilidad de la inteligencia artificial, y cómo pueden las empresas superarlas?

Km: La mayor idea errónea es que es un desafío unir la innovación y la responsabilidad. La realidad es que la IA responsable es la clave para desbloquear el progreso de la IA, ya que proporciona innovación sostenible a largo plazo.

En última instancia, las empresas y los consumidores elegirán los productos en los que confían. Entonces, la confianza es la piedra angular para la implementación de AI. Las empresas que reúnen la innovación y la confianza tendrán una ventaja competitiva.

ZDNET: ¿Cómo se apoya a las empresas de Wipro FullStride Cloud para alinear la IA con los objetivos de ESG (ambiental, social y de gobierno)?

Km: Comenzamos desarrollando marcos de IA responsables que garanticen la equidad, la transparencia y la responsabilidad dentro de los modelos de IA. También aprovechamos la IA para rastrear e informar las métricas de ESG, así como las iniciativas verdes de IA, como las herramientas para medir y reducir la huella de carbono de la IA.

En el lado de la infraestructura, trabajamos con los clientes para optimizar las cargas de trabajo y hacer que el uso de los centros de datos con eficiencia energética. También trabajamos en soluciones de IA específicas de la industria para sectores como la atención médica, las finanzas y la fabricación para cumplir con los objetivos de ESG.

ZDNET: ¿Cuáles son las formas más efectivas en que las soluciones en la nube pueden reducir la huella ambiental de IA?

Km: Las soluciones en la nube pueden admitir centros de datos de bajo consumo de energía mediante el uso de energías renovables, optimizando el enfriamiento e incorporando la informática consciente del carbono. La optimización del modelo de IA también es posible a través de técnicas menos intensivas en energía, como el aprendizaje federado y la poda de modelos.

Puede alinear los recursos más estrechamente con la demanda mediante el uso de soluciones sin servidor y de escala automática para evitar el sobrevisión. Los proveedores de nubes ahora ofrecen paneles de seguimiento e informes de carbono, lo que le permite medir y optimizar su huella. Con la computación múltiple y borde, puede reducir aún más el movimiento de datos y procesar la IA más cerca de la fuente.

Aprovechando la nube

ZDNET: ¿Cómo se puede aprovechar la infraestructura en la nube para incrustar consideraciones éticas en el desarrollo de IA?

Km: La infraestructura en la nube ofrece herramientas poderosas para ayudar a incrustar consideraciones éticas en el desarrollo de IA. Los kits de herramientas de ética de IA incorporados pueden admitir la detección de sesgos y las pruebas de equidad mediante la identificación de desequilibrios en los datos y modelos de entrenamiento. Las plataformas en la nube también ofrecen herramientas de capacitación conscientes de la diversidad para ayudar a garantizar que los conjuntos de datos sean representativos e inclusivos, lo cual es fundamental para desarrollar sistemas de IA responsables.

También puede aprovechar los marcos de IA basados ​​en la nube que ofrecen características de explicación y transparencia para comprender mejor cómo los modelos toman decisiones. El desarrollo de IA segura y preservadora de la privacidad se admite a través de capacidades como la privacidad diferencial y el procesamiento encriptado, lo que permite el manejo de datos responsable de extremo a extremo.

Los servicios en la nube pueden respaldar aún más la IA ética a través del monitoreo automatizado de cumplimiento, lo que ayuda a garantizar el cumplimiento de regulaciones como GDPR y CCPA. Las herramientas para las pruebas de deriva del modelo y la detección de alucinación también están disponibles, lo que hace que sea más fácil monitorear continuamente el rendimiento del modelo y las salidas inexactas o poco confiables con el tiempo.

ZDNET: ¿Por qué algunas organizaciones luchan por medir el impacto de sostenibilidad de la IA y cómo pueden ayudar las herramientas basadas en la nube?

Km: Muchas organizaciones luchan por medir el impacto de sostenibilidad de la IA debido a la ausencia de métricas estándar. Sin un marco universal para cuantificar los efectos ambientales, se hace difícil comparar el progreso o compararse entre iniciativas. Las herramientas basadas en la nube pueden ayudar a cerrar esta brecha al ofrecer paneles y modelos personalizables que rastrean la salida de carbono a través del ciclo de vida de la IA, desde el desarrollo hasta la implementación.

El monitoreo en tiempo real presenta otro desafío, ya que el consumo de energía asociado con las cargas de trabajo de IA puede fluctuar significativamente. Los métodos de informes estáticos a menudo pierden estas variaciones. Las plataformas en la nube pueden ofrecer herramientas dinámicas de seguimiento en tiempo real que se ajustan al cambio de cargas de trabajo y proporcionan una vista más precisa del uso de energía.

Además, la visibilidad de datos fragmentada en entornos de nubes, locales y de borde complica las evaluaciones de sostenibilidad. Las soluciones nativas de la nube pueden agregar datos de múltiples fuentes en una sola vista, mejorando la transparencia y la toma de decisiones.

Algunos de los costos ambientales de IA permanecen ocultos. Estos se extienden más allá de la capacitación a la inferencia, el almacenamiento y la escala de calculación. Las herramientas en la nube pueden surgir estos impactos menos conocidos mediante el análisis de patrones de uso de extremo a extremo.

Las brechas regulatorias y de cumplimiento también agregan complejidad, especialmente porque los requisitos de informes de ESG (ambiental, social y de gobernanza) varían según la región. Los servicios en la nube pueden ayudar a administrar esto automatizando el seguimiento de cumplimiento específico de la región.

Finalmente, el análisis basado en la nube puede ayudar a navegar las compensaciones entre el costo, el rendimiento del modelo y la sostenibilidad, ofreciendo ideas que apoyan el desarrollo de IA más equilibrado y responsable.

ZDNET: ¿Qué pasos concretos pueden tomar las organizaciones para mejorar la transparencia y la responsabilidad de la IA?

Km: Primero, capacite a la fuerza laboral para usar AI de manera responsable. Aliente a la fuerza laboral a implementar IA dentro de un espacio seguro al consultarla e interrogarla.

En segundo lugar, establecer una estructura de gobierno para la IA, que abarca todos los aspectos del negocio, desde la adquisición hasta RRHH, CISO y la gestión de riesgos.

ZDNET: ¿Cómo emerge el sesgo de IA y qué papel juegan los marcos basados ​​en la nube para mitigarlo?

Km: El sesgo en la IA puede provenir de varias fuentes, incluidos los datos de capacitación algorítmica que no son representativas o contienen prejuicios históricos, así como errores e inconsistencias en conjuntos de datos marcados con humanos. Si se capacitan en datos deficientes, las decisiones de IA pueden estar sesgadas en función de los marcos éticos culturales, corporativos o sociales, lo que lleva a resultados inconsistentes.

Los modelos Legacy AI entrenados en supuestos obsoletos y datos históricos pueden continuar propagando sesgos pasados. La IA también puede luchar con diversos dialectos, contextos regionales o matices culturales.

Los marcos basados ​​en la nube pueden ayudar a mitigar esto al monitorear el cumplimiento de diversas regulaciones regionales y garantizar un desarrollo de modelos de IA justos a través de la validación de diversos grupos económicos, sociales y demográficos. Los procesos de capacitación adaptativa basados ​​en la nube también pueden reequilibrar conjuntos de datos para evitar sesgos de energía dinámica.

ZDNET: ¿Qué estrategias de gobierno deben implementar las empresas para garantizar el uso responsable de la IA?

Km: Lo más importante es tener un marco de gobierno. Algunas organizaciones pueden tener una estructura de gobierno de IA separada, mientras que otras (como la nuestra) la han integrado dentro de nuestra construcción de gobernanza existente.

Es muy importante involucrar cada rincón de la organización. Las evaluaciones de impacto de IA son herramientas útiles para incorporar la protección legal, la privacidad y la solidez en el despliegue de IA desde la etapa de inicio.

Problemas de IA

¿Qué opinas sobre el creciente énfasis en la IA ética y sostenible? ¿Su organización ha implementado algún marcos o políticas para garantizar el desarrollo responsable de la IA?

¿Cómo se acerca al impacto ambiental de las cargas de trabajo de IA y está utilizando alguna herramienta basada en la nube para ayudar a medir o reducir esa huella?

¿Crees que las regulaciones globales mantienen el ritmo de la innovación de IA, o las empresas se quedan para navegar por las áreas grises por su cuenta? Háganos saber en los comentarios a continuación.

Obtenga las principales historias de la mañana en su bandeja de entrada cada día con nuestro Boletín de Tech Today.

Puede seguir mis actualizaciones de proyecto diarias en las redes sociales. Asegúrese de suscribirse a mi boletín semanal de actualizaciones y sígueme en Twitter/X en @Davidgewirtzen Facebook en Facebook.com/davidgewirtz, en Instagram en Instagram.com/davidgewirtz, en bluesky en @davidgewirtz.com, y en YouTube en youtube.com/davidgewirtztv.