Cuando la Encuesta de Confianza 2023 de PwC preguntó a 500 ejecutivos cómo priorizaban los principales riesgos que podrían erosionar la confianza en su empresa, las amenazas asociadas con la IA quedaron muy por debajo de otras relacionadas con la cibernética, como una violación de datos o un ataque de ransomware.

Los hallazgos sugieren que muchos líderes empresariales aún tienen que comprender la urgencia de los desafíos que plantea la IA generativa.

Por nombrar sólo algunos: contenido ofensivo o engañoso; deepfakes destinados a difundir información errónea o instar a las partes interesadas a compartir información confidencial; información presentada con autoridad que es totalmente inexacta; la exposición de la identidad anónima de las partes interesadas; contenido reproducido ilegalmente a partir de material protegido por derechos de autor; compartir inadvertidamente la propiedad intelectual: la lista es formidable y va en aumento.

¿Cómo pueden las empresas aprovechar el poder revolucionario de la IA generativa, que, entre otros usos, puede ayudar a automatizar el servicio al cliente y tareas de gran volumen, proporcionar resúmenes útiles de investigaciones y datos públicos o de propiedad exclusiva, e incluso escribir código de software, sin poner en peligro la confianza de sus clientes? ¿partes interesadas? Pueden comenzar haciendo los siguientes movimientos:

+ Establezca prioridades basadas en riesgos. Algunos riesgos de IA generativa son más importantes para las partes interesadas que otros. Ajuste o establezca marcos de escalamiento para que los equipos de gobierno, cumplimiento, riesgo, auditoría interna e inteligencia artificial presten la mayor atención a los mayores riesgos.

+ Renovar las protecciones cibernéticas, de datos y de privacidad. Actualice los protocolos de ciberseguridad, gobernanza de datos y privacidad para ayudar a mitigar los riesgos de que la IA generativa de actores maliciosos infiera datos privados, desvele identidades o realice ataques cibernéticos.

+ Abordar el riesgo de opacidad. Con algunos sistemas de IA generativa, el “modelo básico”, o red neuronal, utilizado para producir resultados no se divulga ni es fácilmente accesible para los usuarios, lo que hace imposible desentrañar por qué un determinado sistema generó ciertos resultados. Identifique estos sistemas y considere qué prácticas pueden respaldar su equidad, precisión y cumplimiento.

+ Equipar a las partes interesadas para un uso y supervisión responsables. Enseñe a los empleados los conceptos básicos de cómo funciona la IA generativa y también cuándo usarla y cuándo no. También necesitarán aprender cuándo y cómo verificar o modificar los resultados.

Además, proporcionar a los equipos legales y de cumplimiento habilidades y software para identificar violaciones de propiedad intelectual y otros riesgos relacionados, reforzando las pautas de gobernanza de la IA y otras estructuras de gobernanza (por ejemplo, privacidad y ciberseguridad) que puedan ya estar vigentes.

+ Monitorear a terceros. Sepa cuál de sus proveedores proporciona contenido o servicios que utilizan IA generativa, cómo gestionan los riesgos relacionados y cuál puede ser su posible exposición.

+ Observe el panorama regulatorio. Los formuladores de políticas de todo el mundo están emitiendo cada vez más orientaciones sobre el desarrollo y el uso de la IA. Esta guía es todavía un mosaico, no un marco regulatorio completo, pero continuamente surgen nuevas reglas.

+ Agregue supervisión automatizada. Dado que el contenido creado con IA generativa es cada vez más común, considere las herramientas de software emergentes para identificar el contenido generado por IA, verificar su precisión, evaluarlo en busca de sesgos o violaciones de la privacidad y agregar citas (o advertencias) según sea necesario.

Estas acciones son la base de una IA responsable y deberían convertirse en una parte fundamental del manual de IA de su empresa.