El escándalo de los menores de Almendralejo, con sus fotomontajes de rostros de compañeras sobre cuerpos desnudos, ha sido la noticia de estos días. Era una noticia que sabíamos que llegaría. Menores inconscientes, actuando con ese embrutecimiento característico de algunos de ellos, cuando andan en grupo, con móvil, acceso a apps y blanco del marketing digital porno (y no porno). El hecho tiene muchas derivadas, pero me voy a quedar en dos, la primera ¿cómo se pueden evitar estas conductas? y, una segunda ¿la inteligencia artificial tiene algún tipo de corrector que le impida generar daños personales irreparables?

Para usar un móvil se suponen la edad, la madurez mínima para manejarlo con todas sus posibilidades de acceso a mundos, mensajes, personas -y de interacción con ellos-, un conocimiento básico de los derechos de las personas y una actitud de respeto a los demás. Es la "a" del "abc" de la alfabetización digital. Una idea en la que abundan leyes europeas y nacionales sobre la materia. En el caso de los menores, el filtro para la tenencia o no tenencia del ansiado móvil lo ponen los padres. Y una de dos, o no le compras el móvil, o te aseguras de que en la "a" del "abc" va bien. Ahora, los fotomontajes de este tipo los han hecho algunas revistas españolas y sentencias hay al respecto; también se han repartido collejas judiciales a autores de "memes" más o menos ofensivos.

La noticia muestra un aspecto de la inteligencia artificial que nos inquieta. Que cualquiera pueda usar nuestra imagen o nuestra voz, para hacernos decir lo que quiera, o hacernos aparecer en lugares, circunstancias o situaciones en las que no hemos estado. Aunque con tal apariencia de verdad, que, como le pasaba a una de las chicas de Almendralejo, por mucho que insistía a sus padres que nunca se había dejado fotografiar así, no la creían, viendo las imágenes. Y esta posibilidad que ofrece la inteligencia artificial para la manipulación de nuestros rasgos más personales implica un riesgo enorme. Recuerdo haberme asombrado con el anuncio de Lola Flores de "Cruzcampo", un videomontaje hecho con miles de imágenes y audios, donde la faraona revivía para contarnos que no usáramos el americano "empoderar" sino el expresivo castellano "poderío"; y reirme con el mensaje navideño fake de la reina de Inglaterra, ofrecido por la Televisión Channel 4, donde Isabel hacía mofa de las cuitas familiares, a la vez que se subía a su mesa de despacho para un contorneado. En estos casos la inteligencia artificial estaba bajo control podemos decir. Pero ¿y cuándo no lo está?, ¿existe algún tipo de defensa cuando la propia voz o la imagen aparecen manipuladas por otros, para una finalidad que no nos gusta, todavía peor, para hacernos daño, mediante la burla o el descrédito? Desde otro tipo de datos personales, habitualmente manejados con inteligencia artificial ¿qué podemos hacer cuando nuestras conductas individuales son objeto de cálculo predictivo a partir de patrones de edad, educación, salud, etc, por parte de empresas, bancos, seguros, haciendas, policías, para tomar decisiones que nos conciernen?

Como señaló hace años el entonces llamado "Supervisor Europeo de Datos Personales" en su documento Hacia una nueva ética digital: Datos personales, dignidad y tecnología para que la dignidad de las personas encuentre lugar en el entorno digital, es necesario que se den simultáneamente cuatro elementos: una ley adecuada, un control efectivo de las plataformas digitales, un desarrollo de sistemas técnicos de protección de la privacidad -imagen, voz, información personal-, más una capacidad de control de las personas sobre sus rasgos de identidad, de manera que puedan reclamar, demandar, y en su caso exigir con éxito, el borrado de sus datos de voz, imagen e información. Estos elementos están en las sociedades europeas, pero aún de forma incipiente, de hecho, desde noviembre de 2022 contamos con la ley europea sobre plataformas digitales, la "Digital Services Act", mientras que el pasado mes de junio se tramitó en el Parlamento europeo la que será la primera ley europea sobre Inteligencia Artificial. Quedan muchos pasos aún, aunque pienso que, quizás, el más importante sea ese de la "a" del "abc" de la alfabetización digital, comprender que tenga la app que tenga, debo respetar al de enfrente.