Skip to content
Tiatra, LLCTiatra, LLC
Tiatra, LLC
Information Technology Solutions for Washington, DC Government Agencies
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact
 
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact

Los CIO deben tener cuidado con el ‘lavado de cara’ de la IA

La industria TI tiene una larga historia de proveedores que exageran la funcionalidad de sus productos; sin duda, esto también está sucediendo al dar bombo y platillo a la inteligencia artificial (IA). Ahora, incluso, las empresas usuarias parecen estar exagerando sus capacidades de IA, lo que podría provocarles grandes quebraderos de cabeza.

Los responsables de TI de las organizaciones que se plantean la IA están sometidos a una gran presión -por parte de los consejos de administración, otros ejecutivos y el propio mercado- para poner en marcha iniciativas de IA de gran envergadura. Además, según los observadores, la confusión sobre la definición de IA también puede dar lugar a una exageración involuntaria de las capacidades de IA.

Con la actual fiebre del oro de la IA, las empresas pueden tener la tentación de exagerar sus implementaciones de IA para atraer a inversores y clientes, una práctica denominada ‘lavado de cara de la IA’. No obstante, deberían pensárselo dos veces antes de hacerlo, afirma David Shargel, abogado especializado en cumplimiento normativo del bufete Bracewell.

Los organismos reguladores de EE.UU están atentos a las afirmaciones exageradas sobre IA, y la Comisión del Mercado de Valores de EE.UU anunció en marzo un acuerdo con dos asesores de inversión. La SEC había acusado a las dos empresas de hacer declaraciones engañosas sobre su uso de la IA para el asesoramiento de inversiones, y las empresas hubieron de pagar 400.000 dólares en el acuerdo.

Presión desde arriba

Algunas empresas pueden exagerar su uso de la IA porque no entienden lo que esta engloba, dice Shargel, coautor de una entrada de blog en enero sobre el lavado de cara de la IA. Pero parece que también se exagera intencionadamente, afirma.

“El lavado de cara de la IA es un fenómeno nuevo, pero en realidad no es más que otro tipo de fraude”, afirma. “Las empresas siempre cometen fraude, y encontrarán nuevas formas de hacerlo, basadas en la nueva tecnología”.

Más allá de los problemas normativos, las empresas que exageran su uso de la IA podrían exponerse a demandas de los accionistas y a una pérdida de confianza de los clientes, añade Shargel.

En otras palabras, la llamada al ingenio de la IA en algunas organizaciones puede resultar en un canto de sirena.

Esto se debe a la fuerte presión a la que se ven sometidos los CIO y otros responsables de TI para adoptar y desplegar con éxito la IA, lo que crea cierto incentivo para la exageración, afirma Kjell Carlsson, responsable de Estrategia de IA en Domino Data Lab, proveedor de una plataforma de IA empresarial.

“El lavado de cara de la IA es un fenómeno nuevo, pero en realidad no es más que otro tipo de fraude. Las empresas siempre cometen fraude, y encontrarán nuevas formas de hacerlo basadas en las nuevas tecnologías”

David Shargel, abogado especializado en cumplimiento normativo, Bracewell

“Hay una demanda y un deseo increíbles de IA, y cuando dicen IA, se refieren al mandato de la IA generativa”, apostilla. “Es algo así como: ‘Hemos visto el poder de OpenAI; dime cómo vamos a utilizar grandes modelos lingüísticos para transformar nuestro negocio’”.

Las empresas siempre han seguido las tendencias tecnológicas y han intentado subirse al carro, afirma. “En el momento en que apareció ChatGPT, fue asombroso cómo al instante, sobre todo los proveedores de inteligencia de negocio (BI), se lanzaron a desempolvar sus chatbots para poder decir que eran un centro de inteligencia de negocio basado en IA”, añade Carlsson.

Algunos proveedores de BI renombraron sus sencillos chatbots como herramientas de IA y, aunque técnicamente no estaban equivocados, utilizaban sistemas basados en reglas que no se basan en la IA generativa, que es lo que está impulsando el actual auge del mercado, añade.

Ahora, las empresas usuarias, más que los proveedores de tecnología, pueden verse tentadas a hacer lo mismo. Un número récord de empresas del S&P 500, 199, mencionaron la IA en sus convocatorias de resultados correspondientes al primer trimestre de 2024, según el análisis de la empresa de búsqueda de documentos FactSet. El promedio de cinco años para las menciones de IA durante las llamadas de ganancias fue de 80, con un fuerte aumento de las menciones desde el primer trimestre de 2023, poco después del debut de ChatGPT, escribió la compañía en una publicación de blog.

Confusión e inflación

Esta prisa por asociarse con la IA hace que las empresas miren hacia el crecimiento futuro de los ingresos, en contraposición a los beneficios a corto plazo, una posición atractiva para los inversores, dice Toby Coulthard, CPO de Jacquard, proveedor de una herramienta de IA para la mensajería de marca. La confusión sobre la definición de IA, ya incluya grandes modelos lingüísticos (LLM), redes neuronales, aprendizaje automático o simplemente una aplicación de ciencia de datos, da a las empresas “mucha latitud” a la hora de afirmar que utilizan IA, defiende.

“La motivación intrínseca de hacer algo para preservar o inflar la capitalización del mercado, combinada con un concepto poco definido, conduce a una gran zona gris sobre lo que es apropiado o no”, añade Coulthard. “Hasta que el mercado defina realmente la IA de forma significativa, o hasta que los inversores sopesen la IA de forma más equilibrada, no espero que se ralentice”.

Falta de casos de uso

Una dificultad para los CIO y otros líderes de TI presionados para explorar la IA es que las juntas directivas y los CEO están entusiasmados con la IA generativa y los grandes modelos del lenguaje, pero las herramientas más tradicionales de IA y aprendizaje automático todavía pueden proporcionar muchos beneficios a muchas organizaciones, dice Carlsson de Domino Data Lab.

Aunque la IA generativa muestra un gran potencial, hasta ahora han surgido pocos casos de uso, algunos para sectores específicos como el biofarmacéutico, con un puñado de aplicaciones para la mayoría de las demás empresas, afirma. Los chatbots inteligentes para gestionar las quejas de los clientes se están afianzando, al igual que los asistentes virtuales con funciones de búsqueda empresarial, según Carlsson, quien añadió que han surgido pocos casos de uso para la IA generativa.

“Cuando hablo con organizaciones, incluso con las que han tenido un par de casos de éxito, el abanico de nuevos casos de uso es bastante escaso, y se llega a proyectos aparentemente marginales, desde el punto de vista del valor empresarial, con bastante rapidez”, afirma. “Una empresa con la que hablé me dijo: ‘Nos han sugerido 500 formas de utilizar la IA generativa, y en realidad eran cinco sugerencias repetidas 100 veces’”.

En algunos casos, las empresas están utilizando la IA generativa para cosas que las herramientas de IA más tradicionales pueden hacer, como el análisis básico y la automatización de procesos, lo que puede crear problemas para los líderes de TI, dice. La IA generativa aún puede alucinar, incluso si está afinada, creando un nivel de incertidumbre cuando las herramientas más tradicionales serían más coherentes.

“Se trata de una nueva tecnología que trabaja con nuevos datos y persigue nuevos casos de uso, lo que supone un reto”, afirma. “Te encuentras con que estos modelos no se comportan como los modelos tradicionales. Es un nivel de incertidumbre y riesgo que asusta, y eso dificulta su uso como sustituto de las tecnologías existentes”.

¡Ojo!

Shargel, de Bracewell, aconseja a las empresas que tengan cuidado a la hora de hacer afirmaciones generales sobre sus capacidades de IA. Para evitar el escrutinio normativo, las empresas deben crear una definición de IA para su uso interno y una guía de prácticas regladas.

Los CIO y otros ejecutivos también deberían considerar la posibilidad de revisar sus capacidades de IA antes de hacer afirmaciones, añade. “Lo que las empresas realmente necesitan hacer es pensar en la IA de la misma manera que piensan en cualquier otro tipo de divulgación”, dice Shargel. “Las empresas no hacen revelaciones sobre su condición financiera sin una revisión o auditoría de cumplimiento. Las empresas necesitan tratar las revelaciones sobre tecnología e IA de la misma manera, y necesitan tener la capacidad de evaluar la precisión”.


Read More from This Article: Los CIO deben tener cuidado con el ‘lavado de cara’ de la IA
Source: News

Category: NewsJuly 24, 2024
Tags: art

Post navigation

PreviousPrevious post:CrowdStrike blames testing shortcomings for Windows meltdownNextNext post:TreeHouse Foods’ new enterprise IT strategy drives supply chain success

Related posts

휴먼컨설팅그룹, HR 솔루션 ‘휴넬’ 업그레이드 발표
May 9, 2025
Epicor expands AI offerings, launches new green initiative
May 9, 2025
MS도 합류··· 구글의 A2A 프로토콜, AI 에이전트 분야의 공용어 될까?
May 9, 2025
오픈AI, 아시아 4국에 데이터 레지던시 도입··· 한국 기업 데이터는 한국 서버에 저장
May 9, 2025
SAS supercharges Viya platform with AI agents, copilots, and synthetic data tools
May 8, 2025
IBM aims to set industry standard for enterprise AI with ITBench SaaS launch
May 8, 2025
Recent Posts
  • 휴먼컨설팅그룹, HR 솔루션 ‘휴넬’ 업그레이드 발표
  • Epicor expands AI offerings, launches new green initiative
  • MS도 합류··· 구글의 A2A 프로토콜, AI 에이전트 분야의 공용어 될까?
  • 오픈AI, 아시아 4국에 데이터 레지던시 도입··· 한국 기업 데이터는 한국 서버에 저장
  • SAS supercharges Viya platform with AI agents, copilots, and synthetic data tools
Recent Comments
    Archives
    • May 2025
    • April 2025
    • March 2025
    • February 2025
    • January 2025
    • December 2024
    • November 2024
    • October 2024
    • September 2024
    • August 2024
    • July 2024
    • June 2024
    • May 2024
    • April 2024
    • March 2024
    • February 2024
    • January 2024
    • December 2023
    • November 2023
    • October 2023
    • September 2023
    • August 2023
    • July 2023
    • June 2023
    • May 2023
    • April 2023
    • March 2023
    • February 2023
    • January 2023
    • December 2022
    • November 2022
    • October 2022
    • September 2022
    • August 2022
    • July 2022
    • June 2022
    • May 2022
    • April 2022
    • March 2022
    • February 2022
    • January 2022
    • December 2021
    • November 2021
    • October 2021
    • September 2021
    • August 2021
    • July 2021
    • June 2021
    • May 2021
    • April 2021
    • March 2021
    • February 2021
    • January 2021
    • December 2020
    • November 2020
    • October 2020
    • September 2020
    • August 2020
    • July 2020
    • June 2020
    • May 2020
    • April 2020
    • January 2020
    • December 2019
    • November 2019
    • October 2019
    • September 2019
    • August 2019
    • July 2019
    • June 2019
    • May 2019
    • April 2019
    • March 2019
    • February 2019
    • January 2019
    • December 2018
    • November 2018
    • October 2018
    • September 2018
    • August 2018
    • July 2018
    • June 2018
    • May 2018
    • April 2018
    • March 2018
    • February 2018
    • January 2018
    • December 2017
    • November 2017
    • October 2017
    • September 2017
    • August 2017
    • July 2017
    • June 2017
    • May 2017
    • April 2017
    • March 2017
    • February 2017
    • January 2017
    Categories
    • News
    Meta
    • Log in
    • Entries feed
    • Comments feed
    • WordPress.org
    Tiatra LLC.

    Tiatra, LLC, based in the Washington, DC metropolitan area, proudly serves federal government agencies, organizations that work with the government and other commercial businesses and organizations. Tiatra specializes in a broad range of information technology (IT) development and management services incorporating solid engineering, attention to client needs, and meeting or exceeding any security parameters required. Our small yet innovative company is structured with a full complement of the necessary technical experts, working with hands-on management, to provide a high level of service and competitive pricing for your systems and engineering requirements.

    Find us on:

    FacebookTwitterLinkedin

    Submitclear

    Tiatra, LLC
    Copyright 2016. All rights reserved.