Riesgos de la inteligencia artificial ¿Dónde está el límite?

Dos motores de búsqueda que utilizan inteligencia artificial para el reconocimiento facial son cuestionados estos días por su uso ético y legal. De un lado, PimEyes, del cual se hace eco el New York Times, PimEyes permite subir una foto de una cara para obtener imágenes de caras similares en internet. Tremendo… Del otro lado, Clearview AI, que recolectó más de 20.000 millones de fotografías de rostros en línea de todo el mundo para crear una base de datos. Ambos están en entredicho por cuestiones de privacidad protección de datos. La UOC organiza un interesante congreso sobre todo esto y más.

Inteligencia artificial y derechos humanos fundamentales

Inteligencia artificial ¿Tecnología para la seguridad ciudadana o para el control?

Los próximos días 13 y 14 de junio, la UOC organiza la 17.ª edición del Congreso Internet, Derecho y Política (IDP). El objetivo principal es debatir sobre las ventajas, los riesgos y los avances normativos de la inteligencia artificial y el reconocimiento facial. Expertos, académicos y profesionales hablarán sobre las formas de asegurar un desarrollo de estas tecnologías de manera coherente con los derechos fundamentales y contribuir, así, a fortalecer las sociedades democráticas.

Estas tecnologías, habituales en el sector público y privado, se utilizan en investigaciones penales, control de fronteras, seguridad ciudadana, estudios demográficos y análisis de sentimientos, entre otros. Hasta ahí, todo bien, pero… “No cabe duda de los beneficios que pueden aportar en términos de eficiencia o de apoyo a la seguridad ciudadana. Sin embargo, su potencial puede afectar a los derechos fundamentales de las personas, como pueden ser el derecho a la protección de la vida privada, el derecho al olvido o el derecho a no ser discriminado”, señala Miguel Ángel Elizalde, organizador del congreso. Son sistemas de control intrusivos y, en ocasiones, pueden obtener datos confidenciales de ciudadanos sin que estos lo sepan.

Derechos humanos en jaque. Diferencias por continentes

A escala internacional, Estados Unidos, China y Europa tienen un enfoque muy diferente en este ámbito. Según Elizalde, Europa es la más protectora de los derechos humanos y la que restringe en mayor medida el uso de estas tecnologías. China, por contra, está en el polo opuesto, porque la autoridad pública las utiliza de forma casi ilimitada. El caso de Estados Unidos, al ser propietaria de muchas de estas tecnologías, es la que apuesta por la libre competencia para ganar mercados. “Aunque no está tan desregulada como China, le preocupa perder terreno ante la potencia asiática”, remarca el experto.

reconocimiento facial en las calles

En este contexto, existen varias iniciativas normativas que, apostando por el desarrollo de estas tecnologías para obtener los máximos beneficios sociales, intentan sentar unas bases. La cuestión principal reside en minimizar los riesgos asociados y evitar la perpetuación de sesgos discriminatorios e infracciones de seguridad. Se estudia la posibilidad de prohibir ciertos usos y exigir precauciones y garantías en todas las fases de su diseño, desarrollo e implementación, entre otros.

Dos días de ponencias y debates sobre inteligencia artificial y reconocimiento facial

El primer día del congreso, lunes 13 de junio, se centrará en el análisis de las capacidades de la inteligencia artificial y el reconocimiento facial y las cuestiones éticas relacionadas. La catedrática de Propiedad Intelectual de la UOC y directora de los Estudios de Derecho y Ciencia Política de la universidad, Raquel Xalabarder, abrirá la jornada a las 16 h. A continuación, el ingeniero principal y arquitecto en jefe de Intel, Francesc Guim, impartirá una ponencia. Por último, habrá un panel de discusión, moderado por el profesor de la UOC Marc Guinjoan, donde participarán, aparte de Guim, la fundadora y consejera delegada de Eticas Research and Consulting, Gemma Gardón, y la profesora asociada de la Facultad de Medicina y directora del Observatorio de Bioética y Derecho (OBD) de la Universidad de Barcelona, Itziar de Lecuona.

Inteligencia artificial y reconocimiento facial

Al día siguiente, 14 de junio, el debate girará en torno a los desafíos legales del reconocimiento facial. Habrá una primera ponencia a las 16 h de Mark Andrejevic, profesor de la Escuela de Medios de Comunicación, Cine y Periodismo de la Universidad Monash. Posteriormente, se celebrará un panel de discusión, moderado por la profesora de la UOC Laura Alascio. Además de Andrejevic, en el debate participarán el catedrático de Derecho Constitucional de la Universitat de València Lorenzo Cotino, y el rector de Derecho de la Propiedad Intelectual de la Universidad de Sussex y editor jefe del Journal of World Intellectual Property, Andrés Guadamuz.

Algunos paneles y ponencias se realizarán en castellano y otros serán en inglés. El congreso será en línea, podrá seguirse en directo.

Fuente: UOC

Comentarios

en este artículo

Aún no tenemos comentarios. ¡¡Puedes ser el primero!!

Deja una respuesta

Tu dirección de correo electrónico no será publicada.