Más información
Paul Nemitz es un perro viejo. Lideró la reforma de la legislación de protección de datos de la Unión Europea (que trajo el actual Reglamento General de Protección de Datos), lideró las negociaciones con Facebook, Microsoft, Twitter y YouTube para un Código de conducta para combatir el discurso de odio ilegal en línea. Actualmente es asesor principal del Director General de Justicia y Consumidores de la Comisión Europea, tras seis años en el mismo departamento como director del área de Derechos Fundamentales de los Ciudadanos.
Nemitz también es miembro del Comité de Política de Medios e Internet del Partido Socialdemócrata de Alemania (SPD), administrador de diversas organizaciones y autor del libro Principio humano. Poder, libertad y democracia en la era de la inteligencia artificial. Quiere oponerse al poder de las grandes tecnologías, desmitificar la idea de que la regulación mata la innovación y avanzar hacia la gobernanza digital transatlántica. Así lo cuenta en una video entrevista con EL PAÍS, mientras pasa por el laboratorio de políticas. Derechos fundamentales en la inteligencia artificial y las sociedades digitales, organizado por el Club de Madrid.
Pregunta. Usted es la persona detrás del manifiesto transatlántico En defensa de la democracia y el Estado de derecho en la era de la inteligencia artificial. ¿Qué contiene y qué tiene de único en comparación con otras declaraciones en este sentido?
Respuesta. El solo hecho de poder ponerse de acuerdo entre personas de diferentes disciplinas científicas y académicas del otro lado del Atlántico es un signo de esperanza. Partimos de la premisa de que vivimos en un entorno digital altamente centralizado en términos de infraestructura y capacidad para controlar el comportamiento de las personas. Sin embargo, la democracia se basa en principios exactamente opuestos: descentralización y división de poderes (legislativo, ejecutivo, judicial, prensa, academia y sociedad civil) y mecanismos correctivos.
La compensación de poderes se ejerce desde todos estos frentes y debemos asegurarnos de que la compensación se lleve a cabo de manera efectiva. Quien se encarga de hacer esto es el Estado, que debemos volver a poner en el centro. Identificamos en el manifiesto 17 áreas muy concretas en las que creemos que existe la posibilidad de una acción conjunta entre Estados Unidos y Europa, en áreas como competencia, fiscalidad, gobernanza de datos, transparencia, derechos humanos, seguridad nacional …
POR. ¿Quién está socavando estos poderes correctivos?
UNA. Todos los que dicen querer conectar a todos: Facebook, Google, Microsoft, Amazon … Por ejemplo, Google y Facebook están centralizando la mayor parte de los nuevos ingresos publicitarios. conectado de la prensa, llevándose su dinero. Ahora, de una manera muy «suave» [nótese el tono irónico], están creando programas supuestamente para devolver parte de ese dinero a los medios, pero que en realidad crean dependencia y control.
En el mundo académico es muy difícil encontrar una institución que estudie el impacto social de internet que no esté recibiendo, de una forma u otra, dinero de estas empresas. Su omnipresencia no se limita a la tecnología: con su dinero llegan a todos los lugares donde la opinión pública se basa en la tecnología e Internet.
POR. ¿Cómo se puede arreglar esto? ¿Qué está en juego si no se logra?
UNA. Dos principios importantes. La primera es que en una democracia debe haber una primacía del proceso democrático sobre los mercados y la tecnología. Una de las formas más innovadoras de garantizar esta primacía es mediante leyes vinculantes que puedan garantizarse en consecuencia.
El segundo principio es que tenemos que restaurar la democracia porque no superar esta crisis genera dudas sobre si es el mejor sistema para abordar los temas importantes de nuestro tiempo. La influencia de las grandes empresas de internet e inteligencia artificial [IA] en nuestras vidas es uno de ellos. Internet no puede ser un espacio sin democracia.
POR. Internet es global, al igual que las grandes empresas de tecnología. ¿Es posible una alianza multilateral para democratizarlo?
UNA. Si la pregunta es si podemos crear un acuerdo multilateral global vinculante internacional sobre IA que sea lo más inclusivo posible, debemos ser realistas. Tenemos que preguntarnos cuáles son los problemas nucleares con los que estarían de acuerdo un gran número de gobiernos. En mi opinión, hay dos: gobernanza y autodeterminación.
Necesitamos asegurarnos de que la IA no se salga de control: garantizar la supremacía de los seres humanos y la democracia sobre la tecnología. Esto requiere reglas y responsabilidades para evitar que los individuos y la sociedad se conviertan en objetos del control de las máquinas. Creo que es posible que el mundo esté de acuerdo con estos principios, como una cuestión de intereses comunes: el de los Estados, para mantener la gobernabilidad, y el de los humanos, por usar la tecnología como herramienta, en lugar de convertirse en la herramienta. Ese sería el fin de la naturaleza humana.
POR. Incluso China está comenzando a regular esto.
UNA. Esto se debe a que el poder de las grandes corporaciones es tan grande que está siendo un problema para la gobernabilidad, y la gobernabilidad es un interés común de las democracias y autocracias porque es necesaria en cualquier tipo de estructura estatal.
POR. Anteriormente mencionó las leyes como un mecanismo “innovador” para asegurar la primacía de la democracia. Lejos de eso, muchos argumentan que la regulación sofoca la innovación.
UNA. El mantra de que la ley mata la innovación es falso. Es el mito más simple y engañoso en cualquier discusión sobre regulación. La historia muestra que la regulación sirve a la innovación. Por ejemplo, la regulación de seguridad garantiza que la tecnología sea aceptable para la sociedad y alienta a las empresas a innovar para aumentar la seguridad y reducir su precio. No tendríamos un entorno para avances en innovación tecnológica si no tuviéramos una agenda de políticas públicas. La ley, a diferencia de los mercados, crea incentivos para innovar en áreas que sirven al interés público. También redistribuye los recursos, incluidos los de empresas privadas.
Cualquiera que hable sobre el desarrollo de la IA para el bien común no puede, al mismo tiempo, decir que no quiere leyes. Cuando hablamos de la regulación como un obstáculo a la innovación, como algo a evitar, debemos entender una vez más que el derecho es un instrumento para expresar lo que la democracia quiere lograr, para moldear la sociedad. Por tanto, debe prevalecer sobre un modelo social impulsado por intereses empresariales y tecnológicos.
POR. No hay ningún gigante tecnológico que se precie que no tenga una lista de principios éticos de desarrollo de la IA, ya sea que la cumplan o no. Aboga por ir más lejos.
UNA. En una democracia, todas las cuestiones importantes relacionadas con el cumplimiento de los derechos fundamentales deben ser tratadas por el parlamento. Este principio de esencialidad debe aplicarse también a los límites entre lo que puede entrar en el campo de la ética y lo que exige normas democráticamente legítimas que se puedan cumplir.
Si identificamos que la IA representa un alto riesgo contra los derechos fundamentales o la democracia, permitiendo, por ejemplo, la microsegmentación y manipulación de personas en los procesos electorales, tenemos la obligación legal de tomar las medidas necesarias para evitar que esto suceda. Y también para evitar consecuencias no deseadas o usos no deseados de estas tecnologías, de modo que quienes las crearon y las pusieron en el mercado tengan obligaciones legales.
POR. Hablando de obligaciones legales, ¿qué opinas de la reciente multa de 225 millones de euros a WhatsApp por Comisión de Protección de Datos de Irlanda (DPC) por no informar a sus usuarios cómo compartía datos con Facebook? Hubo quejas sobre el Inacción de DPC, a pesar de recibir decenas de miles de quejas cada año. Además, la DPC se vio obligada a aumentar el monto de la multa, ya que inicialmente tenía previsto aumentarla en 50 millones.
UNA. Europa es una construcción complicada y las autoridades de protección de datos de algunos países deben entender que son agentes de interés europeo. No se les puede considerar servidores de intereses corporativos o nacionales. Tus decisiones con respecto a empresas como Google o Facebook afectan a los ciudadanos de toda Europa.
Además, me gustaría recordarles que las multas más severas en este sentido se han impuesto en los Estados Unidos, específicamente $ 5 mil millones contra Facebook por parte de la Comisión Federal de Comercio. Es injusto y erróneo decir que los europeos están en contra de las empresas estadounidenses. Estados Unidos y Europa comparten problemas con estas empresas. Por eso necesitamos homogeneidad de gobernabilidad y legislación, como actores prodemocráticos, dados los temas que tenemos abiertos con estas corporaciones.
Tenemos que afinar la solidaridad de gobiernos y parlamentos ante el enorme poder que han acumulado estas empresas. Significará el regreso de la democracia al campo tecnológico, donde durante mucho tiempo muchos pensaron que la ley debería faltar. Creo que seremos capaces de hacer eso. Tenemos lo que se necesita para esto.
Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Gorjeo o suscríbete aquí para recibir nuestro boletín semanal.
