Los líderes de TI se enfrentan a la IA en la sombra

La IA generativa promete aumentos espectaculares de la productividad, pero se debe limitar su uso deshonesto hasta que se logre el control.

Max Chan sabía que tenía que hacer algo. Poco después de que ChatGPT irrumpiera en escena en noviembre de 2022, Chan se dio cuenta de que la IA generativa equivaldría a mucho más que la última tecnología.

Con la capacidad de ingerir instantáneamente grandes cantidades de datos utilizando grandes modelos de lenguaje (LLM), las tecnologías de inteligencia artificial generativa como ChatGPT de OpenAI y Bard de Google pueden producir informes, contratos y códigos de aplicaciones que superan con creces a las tecnologías anteriores en velocidad, precisión y minuciosidad. Resultado: aumentos espectaculares de la productividad y una ventaja empresarial potencialmente revolucionaria.

“Los empleados van a utilizar esto. Si no hacemos nada al respecto, no tendrán más remedio que utilizarlo por su cuenta”, afirma Chan, CIO de Avnet, un proveedor de servicios y piezas de tecnología.

Michele Goetz, vicepresidenta y analista principal de Forrester Research, está de acuerdo. “Existe el miedo a perderse algo. Incluso si usted dice: 'No lo use', sus empleados o clientes lo usarán”, afirma. "La caja de Pandora se ha abierto, por lo que es mejor asociarse con sus empleados para que no tengan que ocultar lo que están haciendo".

A pesar de su inmensa promesa, la IA generativa puede exponer información confidencial y patentada a la vista del público. Eso podría llevar a comprometer la propiedad intelectual y a sanciones regulatorias. Además, los resultados de la IA generativa a veces pueden ser tremendamente erróneos y dar lugar a “confabulación” o “alucinación”. Y debido a que los modelos de IA generativa provienen de innumerables fuentes, incorporar resultados de IA generativa en el contenido corporativo de una organización podría conducir a una infracción de derechos de autor.

Algunos de esos peligros se hicieron realidad en abril de 2023, cuando los empleados de Samsung filtraron inadvertidamente datos internos confidenciales a ChatGPT, lo que llevó a la empresa a prohibir temporalmente el uso de tecnología de IA generativa por parte de los empleados, un incidente que puso a los líderes de TI en alerta máxima sobre el inminente aumento de la IA en la sombra. que pronto podría arraigar en sus organizaciones si no se ponen al frente.

Con todo lo que estaba en juego, adoptar un enfoque de no intervención era impensable para Chan. En cambio, está implementando una estrategia de doble vía: limitar la utilización de IA generativa a través de políticas estrictas, mientras desarrolla y pone a prueba rápidamente aplicaciones aprobadas y seguras.

"Si alguien quiere probarlo, debe enviar una solicitud y nosotros debemos revisarla y trabajaremos con ellos para crear un producto mínimo viable", explica. El MVP, a su vez, podría evolucionar hasta convertirse en una prueba de concepto (POC) y desde allí, normalmente con la ayuda de un socio estratégico, hasta una implementación de producción. Esas primeras aplicaciones están ahora a punto de concretarse. "Definitivamente estaremos en producción con un par para fin de año", dice Chan.

Otros CIO han adoptado estrategias similares. "Nuestro enfoque es de interés cauteloso", dice Robert Pick, vicepresidente ejecutivo y CIO de Tokio Marine North America, un proveedor de seguros multinacional con sede en Japón. Si bien Pick anima a los empleados de la compañía de seguros a experimentar, insiste en que se supervisen sus actividades.

“En los seguros, vivimos en datos todo el tiempo, y en datos de terceros, que son diferentes a los de algunas industrias. Nos sentimos algo cómodos con la idea de que nuestros datos vayan a algún lugar para ser procesados ​​y luego regresen. Si brindamos a los profesionales las herramientas y la orientación adecuadas, tomarán la decisión correcta”, afirma Pick.

A pesar de los mejores esfuerzos de Chan y Pick, Gartner prevé que será imposible evitar el uso no autorizado. La consultora predijo en marzo de 2023 que para 2026, el 5% de los empleados realizarán un uso no autorizado de IA generativa en sus organizaciones. “En todo caso, el 5% es conservador. Recibo llamadas todos los días de personas que quieren saber cómo evitar que sus empleados utilicen ChatGPT”, dice Avivah Litan, distinguido vicepresidente analista de Gartner.

Los CIO se dan cuenta de que, a menos que implementen rápidamente políticas que permitan e incluso fomenten el uso de la IA generativa para algunos fines, perderán el control sobre una tecnología transformadora en sus organizaciones.

Según IDC, los CIO se han dejado de lado y ahora están al frente del desfile. En marzo de 2023, el 54 % dijo que todavía no estaba haciendo nada con respecto a la IA generativa, pero en junio de 2023, solo el 23 % admitió eso [ver gráfico]. “En algunos casos, la gente está bloqueando; en otros casos, están adoptando políticas; y en otros casos más están realizando pruebas piloto intencionales”, dice Daniel Saroff, vicepresidente del grupo de consultoría e investigación de IDC.

IDC

En Parsons Corp., un proveedor de soluciones globales en los mercados de seguridad nacional e infraestructura crítica, los primeros casos de IA en la sombra estimularon una conversación entre Karen Wright, vicepresidenta de estrategia, productos y comercialización de TI, y su homólogo de ciberseguridad en Parsons. Esto siguió a un hackathon ChatGPT para identificar riesgos de seguridad. "Fue un enfoque realmente bueno para comprender las implicaciones de la tecnología", dice Wright.

El hackathon mostró a Wright y a sus compañeros líderes de TI en Parsons que ChatGPT no era cualitativamente diferente de algunas herramientas basadas en web que los empleados ya estaban usando, como los servicios en línea Adobe Acrobat, en los que los datos se envían fuera de una organización para ser procesados. En consecuencia, Parsons optó por el uso de herramientas de prevención de pérdida de datos (DLP) para evitar la filtración de datos a través de la IA generativa.

"Nuestro objetivo es adoptar y acelerar el uso de inteligencia artificial inteligente, al mismo tiempo que la gestionamos con herramientas DLP para garantizar la seguridad", afirma Wright.

La educación también desempeñará un papel fundamental a la hora de tomar el control de la IA generativa en Parsons. "Nuestro objetivo es educar a los empleados sobre las mejores prácticas y herramientas para lograr sus objetivos y al mismo tiempo proteger a la empresa", dice Wright.

Como aseguradora global con presencia en muchos países, las unidades internacionales de TMG han estado experimentando con IA generativa. “Vimos una enorme cantidad de experimentación personal. Pero como somos conscientes de los riesgos, no hubo prisa por poner todo en ChatGPT. La reacción fue rápida y clara: educación y seguimiento”, afirma Pick.

Según Pick, TMG ha creado grupos de trabajo dentro de sus diversas empresas para examinar casos de uso, como redacción de cartas y contenido de marketing, para dar a los humanos una ventaja en el proceso. Otro posible caso de uso de la IA generativa es que las distintas unidades de negocio redacten informes sobre las condiciones y el rendimiento del mercado.

"Cualquier empresa con muchas unidades de negocio puede beneficiarse de la capacidad de la IA generativa para resumir información", señala Pick. “Tomar un manual de suscripción y resumirlo en un lenguaje sencillo podría tomar segundos o minutos para llegar a un primer borrador, en lugar de días o semanas”, dice. "Eso nos permitirá centrar nuestros recursos humanos de manera más eficiente en el futuro".

Según Pick, además de ingerir y generar contenido escrito, la IA generativa muestra un gran potencial en el desarrollo de aplicaciones. La capacidad de traducir casi en tiempo real un procedimiento almacenado de un idioma a otro con una tasa de precisión de quizás el 60%, al tiempo que incluye comentarios, aumentará enormemente la eficiencia del desarrollador, afirma. “Un programador podría tardar semanas en hacer lo mismo. Eso generará dividendos durante años”, afirma Pick.

Además, el uso de LLM privados resulta inmediatamente atractivo para un proveedor de seguros como TMG. “Existe la esperanza de que pueda encontrar cosas que los humanos no notarían. También estamos interesados ​​en 'pequeños LLM', si podemos llegar a ese estado, porque no necesitaría un centro de datos en la nube. En su lugar, utilizaríamos zonas de pruebas acordonadas para administrar los datos”, afirma Pick.

Pero incluso en el caso de los LLM privados, la regulación entra en juego, afirma el CIO. “Para que una empresa global como TMG utilice un LLM privado, los datos tendrían que cargarse en un sistema de inquilinos que esté dentro del área regida por regulaciones específicas, como el GDPR en Europa”, explica.

La búsqueda de Chan de seguridad y oportunidades es prometedora en varios POC. “Estamos entrenando Azure OpenAI con toda la información del producto que tenemos, para que una persona de negocios pueda hacer una búsqueda rápida para encontrar un conector en particular y recuperar varios ejemplos, incluidos los que están en stock. Ahorra tiempo porque la gente ya no necesita llamar al equipo de materiales”, afirma Chan.

Azure OpenAI también genera contratos personalizados rápidamente. "Al cargar los últimos 10 años de contratos en el repositorio, podemos decir: 'Necesito un contrato para un proyecto en particular con tales o cuales términos', y en cuestión de segundos aparece un contrato completo", dice Chan. Luego, los ejecutivos de ventas pueden revisar y modificar el contrato antes de enviárselo al cliente. Se espera que la rápida respuesta dé como resultado conversiones más rápidas de prospectos en ventas, así como clientes más felices.

El proceso es similar con las solicitudes de propuestas (RFP), en las que los analistas de negocios especifican lo que necesitan y la IA generativa crea la RFP en segundos. “El analista de negocios simplemente revisa y realiza cambios. Se trata de un enorme aumento de la productividad”, afirma Chan. Los ingenieros también pueden recurrir a la IA generativa para encontrar posibles soluciones a las demandas de los clientes, como reducir la huella física de una placa de circuito reemplazando ciertos componentes en la lista de materiales, y al mismo tiempo acortar el tiempo de comercialización. “Devolverá opciones. Eso es enorme en términos de valor”, afirma Chan.

En general, los CIO están encontrando que las ventajas de la productividad de la IA generativa justifican enfrentar los desafíos de controlarla. "Nos aseguramos de que los datos de la empresa estén seguros, pero a la IA no le faltan capacidades para que los empleados de TI y de la empresa puedan innovar", afirma Chan.

Según Pick, la IA generativa no hará que los trabajadores humanos se vuelvan obsoletos, sólo más productivos. “No lo vemos como una tecnología de reemplazo de personas. Todavía necesita un cuidador humano”, afirma. "Pero puede acelerar el trabajo, eliminar la monotonía y permitir que nuestros empleados hagan cosas de un orden superior, de modo que podamos centrar los recursos humanos de manera más precisa en el futuro".

Lo más importante, dice Pick, es que la IA generativa tiene mucho más potencial que las tecnologías anteriores muy publicitadas. "Esta no es la próxima cadena de bloques, sino algo que será realmente valioso".

Para extraer ese valor, Goetz de Forrester dice que establecer políticas para la IA generativa es una cuestión de establecer claramente lo que se debe y lo que no se debe hacer. Ella recomienda, al igual que Chan, seguir una estrategia de dos vías en la que las aplicaciones de IA generativa y los conjuntos de datos aprobados se pongan a disposición de los empleados, mientras que las aplicaciones de IA y los casos de uso que puedan poner los datos en peligro estén prohibidos. Según Goetz, seguir las directrices hará posible el uso seguro y de autoservicio de la IA generativa en una organización.

Mientras tanto, al desarrollar o implementar capacidades de IA generativa, Saroff de IDC recomienda evaluar los controles que implementan las herramientas de IA generativa, así como los riesgos no deseados que podrían surgir del uso de esas herramientas de IA.

IDC