Un empleado podría subir información parcial a la inteligencia artificial (IA) para mejorar la redacción de un correo electrónico, convirtiendo estos datos en propiedad intelectual de la misma IA, esto puede significar un riesgo para la empresa, al comprometer información que forma parte de la propiedad intelectual o de la ventaja competitiva de una organización.
Por ello, la Dra. K. Michelle Lazcano Alvarez, Profesora de Tiempo Completo en Cetys Universidad Campus Mexicali, señaló la importancia de establecer criterios claros sobre qué información puede compartirse con estas herramientas.
La Experta Cetys mencionó que algunos agentes han demostrado comportamientos inesperados durante pruebas y simulaciones, desde intentar evadir mecanismos de supervisión hasta recurrir a estrategias de ingeniería social para alcanzar determinados objetivos. Estas capacidades muestran que el desafío no se limita al uso cotidiano de la IA, sino también a comprender sus alcances y establecer mecanismos de seguridad y responsabilidad que permitan aprovechar su potencial sin perder de vista los riesgos que implica.
Recomendaciones para aprovechar la IA sin comprometer información personal o confidencial
Al compartir con la IA datos como número de teléfono, CURP o incluso contratos, base de clientes, entre otros, se debe de ser consciente que hay una posibilidad de que esta información tenga una fuga, es decir se comparte sin ser autorizada, ya sea por fallos en la seguridad de las plataformas o simplemente porque se vuelve parte de la información que puede usar para responder
“Si requieres subir datos, anonimiza antes, ya sea sustituyendo “Pedro Pérez” por “cliente 005” o subiendo solo un fragmento de la información” sugirió la Dra. Lazcano Alvarez.
Además, la académica aconsejo revisar el acceso que se da a la IA que consulta archivos personales o correo electrónico. Por otra parte, mencionó que existen distintas herramientas para detectar algún riesgo digital, las cuales son: Sightengine, Deepfake Detector que analiza imágenes y videos y verifica si fueron generados o manipulados mediante IA. Syncretia, identifica posibles automatizaciones o procesos realizados con inteligencia artificial.
Protege los datos sensibles: Antes de introducir información en una herramienta de IA, sustituye nombres, domicilios, cantidades exactas u otros datos.
Configura las opciones de privacidad: Revisa periódicamente los ajustes de la plataforma y revisa si permite limitar el almacenamiento del historial de conversaciones o el uso de tus interacciones para mejorar o entrenar sus sistemas.
Ser selectivo con extensiones y aplicaciones: Antes de instalar herramientas que incorporen IA, verifica su procedencia y los permisos que solicitan.
“Aunque la Organización Virtual de los Institutos de IA de la Fundación Nacional de Ciencias (NSF AI Institutes) y otros organismos han invertido recursos en delinear lo ético y desarrollar la ciberseguridad, el éxito o fracaso depende aún de la vigilancia humana, no de una barrera técnica confiable” finalizó la Experta Cetys.
