"El pasado miércoles la Comisión Europea presentó su legislación sobre Inteligencia Artificial (IA). Por primera vez disponemos de un marco normativo con el que las administraciones garantizan la seguridad de los ciudadanos y fortalecen las inversiones que se están realizando ante el nuevo universo algorítmico. Aunque las autoridades públicas están siendo muy pesadas con el mantra de la digitalización en la economía, los ciudadanos tenemos que estar bien despiertos porque el universo algorítmico no afecta únicamente a las transformaciones económicas y laborales. Asistimos a una revolución cultural que afectará a las formas de gobernanza social y política.
Antes aplicábamos el término despotismo ilustrado para describir la forma de ejercer el poder político que tenían algunos monarcas del siglo XVIII: ‘todo para el pueblo, pero sin el pueblo’. En la era digital está dando sus primeros pasos el despotismo algorítmico, esto es, una forma de ejercer el poder en los entornos organizados por la digitalización donde la persona se reduce a sus datos. Se nos quiere hacer creer que habrá un algoritmo portador de verdad que decidirá por nosotros, que resolverá los expedientes, que gestionará las multas, que administrará las historias clínicas, que mostrará nuestra prevalencia para la enfermedad, que regulará las bajas laborales o que indicará si tenemos que respirar, incluso andar más o menos ese día. Por no hablar del ocio digital, la espiritualidad digital y hasta el silencio digital. Recordemos que ya se están aplicando técnicas biométricas de reconocimiento facial para clasificar todos los comportamientos de los ciudadanos. Cualquier día los profesores tendrán que capacitarse robótica, telemática y digitalmente para ‘empoderar’ en mecánicas, previsibles y funcionales virtudes algorítmicas.
No es baladí que la Comisión haya aprobado esta regulación con normativa sobre maquinaria y robots. Sus señorías son conscientes que algunas aplicaciones de la digitalización como la biometría y las técnicas de reconocimiento facial serán fundamentales para establecer determinadas políticas públicas de virtud algorítmica. La Comisión ha establecido cuatro niveles de riesgo en el desarrollo de este universo. El máximo, o de riesgo inaceptable, lo tendrán aquellos sistemas de IA que sean una amenaza para la seguridad, los medios de vida y los derechos de las personas. Aquí se encuentra la utilización de la IA para incitar a la violencia o para puntuar conductas ciudadanas. Hay alto riesgo cuando se aplica a la salud, servicios públicos o relaciones laborales. Hay un riesgo limitado en los ‘chatbots’, robots o asistentes programados para comunicaciones o servicios personalizados. Hay un riesgo mínimo en aplicaciones de la IA al campo de la imagen o los videojuegos. Esperando regular usos como vigilancia policial predictiva o la vigilancia masiva biométrica, técnicas que nos devuelven a la categoría de súbditos satisfechos, esta norma es un primer paso para sentirnos ciudadanos europeos seguros, protegidos y algorítmicamente felices." Podéis ver el artículo completo en:
https://www.lasprovincias.es/comunitat/opinion/despotismo-algoritmico-20210424003636-ntvo.html




