Un informe de Amnistía Internacional alerta que los sistemas de inteligencia artificial generativa más utilizados globalmente vulneran la privacidad de las personas desde su diseño, al basar su entrenamiento en la recolección masiva de datos de internet sin el consentimiento de sus creadores.
Problemas en el entrenamiento de modelos
La investigación, titulada "Unlawful by Design: Exposing the Human Rights Costs of Generative AI", señala que plataformas como GPT-3 de OpenAI, Gemini de Google, Llama de Meta y herramientas como Midjourney se desarrollaron utilizando información extraída de páginas web, redes sociales y fotografías públicas mediante técnicas automatizadas conocidas como "web scraping". Likhita Banerji, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional, afirmó que "las empresas están recopilando enormes cantidades de datos mediante prácticas que, en muchos casos, son ilegales".
Según la organización, este proceso de entrenamiento, que requiere gigantescas bases de datos para que las IA produzcan textos e imágenes complejas, almacena datos personales de millones de usuarios sin su autorización, lo que convierte a estos modelos en sistemas "ilegales desde su concepción".
Riesgos de sesgos y alto consumo energético
El documento también advierte que estos modelos de inteligencia artificial absorben y amplifican los prejuicios raciales, culturales y de género presentes en el contenido de internet, lo que puede generar respuestas discriminatorias y afectar de manera desproporcionada a comunidades históricamente marginadas.
Además, el informe destaca el considerable impacto ambiental del auge de la IA, debido a la alta demanda energética de los centros de datos necesarios para su procesamiento. Amnistía Internacional cita los reportes de sostenibilidad de Google y Microsoft, que reconocen aumentos significativos en sus emisiones de gases de efecto invernadero vinculados a la expansión de su infraestructura tecnológica para inteligencia artificial.
Reacción empresarial y llamado a la regulación
La organización contactó a varias empresas tecnológicas para presentar sus hallazgos, recibiendo respuestas hasta el momento de la publicación solo de Microsoft, Amazon, Intel, OpenAI y Meta. Amnistía Internacional insiste en que el problema es resultado de decisiones empresariales y no es inevitable.
El informe surge en un contexto donde gobiernos y organismos internacionales buscan acelerar la regulación de la inteligencia artificial. Amnistía Internacional plantea que los Estados deberían prohibir los sistemas entrenados con extracción ilegal de datos y exigir responsabilidades a las empresas por impactos en derechos humanos, dejando sobre la mesa el debate sobre hasta dónde se está dispuesto a ceder la privacidad para usar estas herramientas.
Deja una respuesta