SIC lidera alerta internacional urgente por uso indebido de inteligencia artificial en creación de imágenes íntimas
La Superintendencia de Industria y Comercio (SIC) de Colombia ha liderado una alerta mundial urgente que involucra a más de 60 países, incluyendo a Colombia, desde el Grupo de Trabajo de Cooperación Internacional de la Asamblea Global de Privacidad. Esta acción busca fortalecer las medidas regulatorias y de protección de datos personales a nivel internacional.
Aumento preocupante de casos de IA generativa mal utilizada
La alerta responde directamente al aumento significativo de casos donde la inteligencia artificial generativa y diversas plataformas digitales están siendo utilizadas para crear y divulgar en redes sociales imágenes íntimas no consentidas. Estas imágenes, algunas con contenido sexual explícito, difamatorio o potencialmente dañino, son generadas a partir de datos personales de individuos identificables, violando gravemente su privacidad y dignidad.
El comunicado conjunto, liderado por la SIC dentro del Grupo de Trabajo de Cooperación Internacional, reúne la posición y preocupación unificada de múltiples autoridades de protección de datos personales alrededor del mundo. En el documento se enfatiza que los sistemas de IA generativa deben desarrollarse y utilizarse estrictamente conforme con los marcos legales aplicables, incluyendo todas las normas de protección de datos y privacidad vigentes en cada jurisdicción.
Recomendaciones específicas para organizaciones que utilizan IA
El documento plantea una serie de recomendaciones dirigidas específicamente a las organizaciones que desarrollan o utilizan sistemas de inteligencia artificial generativa:
- Prevenir el uso indebido de información personal y la generación de contenido íntimo no consentido mediante protocolos de seguridad reforzados.
- Garantizar transparencia significativa respecto a las capacidades reales, salvaguardas implementadas y usos permitidos de los sistemas de IA.
- Eliminar contenido dañino que involucre datos personales de manera proactiva y sistemática.
- Implementar salvaguardas reforzadas específicamente diseñadas para la protección de niñas, niños y adolescentes, quienes son particularmente vulnerables.
Coordinación regulatoria internacional y llamado en Colombia
Los países firmantes del comunicado han señalado que los daños asociados al uso abusivo de este tipo de tecnología son significativos y requieren coordinación regulatoria internacional urgente. Por esta razón, las autoridades de protección de datos están avanzando en acciones conjuntas para abordar este riesgo global mediante múltiples estrategias:
- Acciones educativas para crear conciencia sobre los riesgos.
- Mecanismos de seguimiento y monitoreo continuo.
- Desarrollo de políticas públicas específicas para regular el uso ético de la IA.
En el contexto colombiano, la SIC ha hecho un llamado directo a las organizaciones desarrolladoras y usuarias de inteligencia artificial generativa para que implementen estándares altos de seguridad y cumplimiento normativo. El objetivo fundamental es proteger la privacidad, dignidad y seguridad integral de todas las personas, especialmente considerando que la generación de imágenes íntimas no consentidas puede constituir un delito grave en múltiples jurisdicciones, incluyendo Colombia.
