¿Qué significa ser un ciudadano digital hoy?

Es quien sabe hoy identificar, reconocer, comprender y responder a los grande dilemas y desafíos que genera el uso de Internet. En una frase, ciudadano digital es quien sabe hacer un uso reflexivo crítico, creativo y participativo de las tecnologías y de internet. Internet nos trajo a todos enormes oportunidades como la comunicación a distancia, el trabajo, operaciones médicas, bancarias, etc. Fueron enormes cambios positivos, pero conjuntamente con ello también nos generó enormes dilemas, interrogantes y desafíos que un ciudadano del siglo XXI necesita conocer.

¿Cuáles son algunos de esos dilemas que has mencionado?

Por ejemplo: las noticias falsas, discursos de odio, el uso de datos personales, la huella digital, el big data, la inteligencia artificial y sus usos no éticos. Entonces, necesitamos como ciudadanos/as reconocer estos grandes dilemas, comprenderlos, analizarlos y saber responder. Por eso decimos que hoy no es posible ejercer una ciudadanía plena si además uno no es un ciudadano digital.

Comprender, analizar, responder son estas competencias que no son instrumentales, ¿Por qué es tan importante desarrollarlas?

Estas competencias no tienen que ver con lo instrumental o el manejo de la herramienta o soporte, sino con la reflexión, la actitud crítica, la creatividad, la participación. Hasta hace unos años, la inclusión digital estaba definida básicamente por el acceso, contar con conectividad o con los dispositivos digitales era suficiente para sentirse incluidos, para estar conectados. Hoy se sabe que el acceso es importante, pero no es suficiente para definir la inclusión digital. La Inclusión digital necesita de competencias prácticas y usos, es decir, que el acceso puede ser el punto de partida, pero no el punto de llegada.

Si un adolescente cuenta con dispositivos digitales y acceso a internet, pero no sabe buscar y seleccionar información confiable de la web, participa de acciones de bullying, sube demasiada información personal porque no mide el alcance de la web y no entiende el funcionamiento o incidencia de los algoritmos en su vida cotidiana, no podemos hablar ni de nativos digitales ni de inclusión por el hecho de contar con los dispositivos si no cuenta con las competencias, las prácticas y los usos que permiten hacer de internet un aprovechamiento en todo su potencial de manera segura, responsable, crítica y participativa.

¿Cuál es el rol de los diferentes actores sociales para construir un entorno digital plural y menos agresivo?

Para poder responder esta pregunta quiero hacer referencia a mi último libro editado por Fondo de Cultura y se titula “Adolescentes, participación y ciudadanía digital“. Este libro está basado en una investigación realizada que arroja resultados que son de Argentina, pero pueden ser trasladados a otros lugares del mundo. Lo primero que llama la atención es que, si bien el 100% de los adolescentes tienen un perfil en una red social, solo el 45% brinda su opinión sobre temas que los afectan y preocupan cuando están en las redes. Y hablamos de brindar opinión como el primer paso en la participación, porque luego vendrá la acción, pero lo primero que queremos en temas de participación es que los adolescentes se animen a participar en temas que les preocupan o afectan. Y si todos están en una red social, ¿por qué solo una parte él participa? El 50% de los adolescentes que dio su opinión sobre temas que le interesan sufrió alguna intimidación, acoso o burla.

Los actores responsables que pueden transformar esta realidad somos todos. Los adultos, en general, como padres y como docentes que convivimos con adolescentes y niños. También crear políticas públicas que nos expliquen las formas de participación que genera internet y cómo ejercer esta participación, cómo trabajar el lenguaje digital para no herir la sensibilidad de los demás, sino para ser respetuosos de lo que opinan y de la pluralidad. Pero también las compañías tecnológicas son responsables de hacer de Internet un entorno seguro, un ambiente plural y que fomenten de alguna manera la participación de manera plural y diversa. En síntesis, el Estado a través de la escuela y campañas de comunicación, también el sector privado como las compañías tecnológicas y los medios de comunicación. Todo esto hace al fortalecimiento de la democracia y en esto todos somos protagonistas.

En esta conversación han surgido palabras como ciudadanía digital, conocimiento y democracia ¿cuál es la relación entre estos conceptos?

Es difícil ejercer una ciudadanía plena sin una ciudadanía digital, porque hoy en día entender los principios que rigen el entorno digital es fundamental para ser un ciudadano pleno en democracia. Por ejemplo: las investigaciones internacionales muestran que cuando adolescentes y adultos buscan información en internet para inquietudes personales o para responder a consignas escolares, se quedan con el primer link que encuentran porque creen que es el más seguro, cuando frecuentemente es el que pagó para figurar primero en la lista. O tampoco comparan y contrastan distintos sitios o informaciones porque les resuelve la consulta, pero no analizan la procedencia, la fuente, el autor, ni su trayectoria o antecedentes para hablar del tema. Más llamativo que esto es el hecho de que la mayoría de las personas confía en un contenido solo por el hecho de haberlo recibido de un contacto conocido o de un familiar. Entonces la variable de quién me envió la información es más importante de quién la produjo.

¿Y cuáles son las consecuencias directas de esto?

Por un lado, un uso limitado y pobre de la información y además el gran riesgo de viralizar y compartir información de dudosa credibilidad. Esto está directamente con el fortalecimiento o no de la democracia. Porque la información es un insumo fundamental para la toma de decisiones, si consumen información de dudosa credibilidad, la decisión que tomen no va a ser reflexiva o fundamentada. Entonces aquí vemos cómo saber identificar información confiable y saber distinguirla de aquella que no lo es o que es completamente falsa es una competencia fundamental para ejercer una ciudadanía democrática y plena.

¿Por qué el documento de Ciudadanía Digital está destinado a docentes?

En la UNESCO hay una fuerte decisión que es comenzar a capacitar a docentes en lo que respecta a ciudadanía digital para que puedan enseñar ciudadanía digital y formar a los alumnos y sean capaces de entender cómo funciona el entorno digital, los principios que rigen internet y entender las tecnologías desde no desde lo instrumental sino desde el uso crítico, creativo y reflexivo. La clave son los docentes. Desde la UNESCO, pensamos que los docentes deben capacitarse desde su formación, así al momento de egresar o graduarse, ya van a tener una formación en ciudadanía digital y saber cómo implementarlo en clase con sus alumnos. También promovemos la capacitación permanente para actualizar a todos los docentes en estos temas. Por otro lado, estamos trabando con Ministerios de Educación de América Latina para que inserten la ciudadanía digital en la formación docente. Esto implica trabajar con los equipos de currículum y formación de los ministerios para que la ciudadanía digital sea una realidad en el currículum de la formación docente.

La entrada Roxana Morduchowicz: “Es difícil ejercer una ciudadanía plena sin una ciudadanía digital” se publicó primero en MIL Magazine.

La alfabetización mediática e informacional es una de las principales herramientas que muchos expertos señalan como la solución contra la desinformación y el discurso de odio. Hablamos con Marcelino Madrigal sobre redes sociales y cómo combatir estos fenómenos de una forma efectiva. 

¿Existe la censura en la era de las redes sociales?

Por supuesto que existe la censura y existe gente que la practica. Hay gente que dirá que no es censura cuando el discurso que tu haces no es de su agrado, dirá que es apropiado, pero objetivamente, por supuesto que existe. De hecho, conmigo lo han practicado durante muchísimos años, simplemente, por expresar y mostrar comportamientos que son bastante criticables, sobre todo, desde las empresas que explotan las redes sociales y la estulticia que han mostrado con muchos temas, no solo con temas de discurso de odio, sino, sobre todo, con protección a los menores. En Twitter, llevo una temporada, para mí es demasiado, sin problemas, unos seis o siete meses. Llegué a estar cuatro y cinco años fuera de Twitter directamente, sin que nadie me explicara por qué. Facebook, por ejemplo, tengo el dudoso honor de tener un correo del equipo del señor Zuckerberg, diciendo que no reúno las características para estar en Facebook. Tiene varios miles de millones de usuarios, en cambio yo no tengo las características para estar en Facebook y añadían que no me lo podían explicar porque era una cuestión de seguridad. A mí, personalmente, me preocupa más lo que se permite que lo que se censura en todos los sitios. 

“La tecnología es neutra, no así los comportamientos que tenemos ni la actitud de las empresas”

Marcelino Madrigal

¿El avance de la tecnología va a traer consigo mayor peligro?

Depende de nuestro comportamiento. Siempre hablo de que la tecnología es neutra, no así los comportamientos que tenemos ni la actitud de las empresas, pero la tecnología no deja de ser una herramienta. Una red social no es buenísima porque sea una herramienta de Internet ni es malísima, es el uso que hacemos de ella lo que puede llevar a utilizaciones perversas de la red. En ese sentido, tenemos la idea equivocada de que existe un ‘buenismo’ de que seamos, posiblemente, la población más beneficiada por estar interconectados. Eso no es siempre un síntoma de estar mejor informados y conocer la verdad de las cosas, sino todo lo contrario, es un síntoma de que somos más fácilmente manipulables porque estamos ante un verdadero tsunami de cascadas de información. Creo que depende del sentido común y que seamos capaces de discriminar entre lo que nos están contando. 

Ante el aumento del discurso del odio, Twitter y Facebook, entre otras, han creado nuevas medidas. ¿Son efectivas?

Yo diría que no. Si hubiera una medida efectiva y real contra todo esto, todo el mundo la usaría. En cambio, todo el mundo hace lo que puede a este respecto. En el caso de las empresas, tenemos el caso de Estados Unidos donde se ve muy claramente lo que ha ocurrido. Siempre pongo de ejemplo el caso de Trump, en el que se ha pasado de, cuando era presidente de Estados Unidos, admitir cualquier discurso e, incluso, modificar las reglas dentro de las redes sociales que quedan aplicadas al resto de los usuarios para que él continuara allí. Twitter reconocía explícitamente que Trump incumplía sus reglas, pero mantenían su discurso porque era de interés público. Esto es una regla para este señor exclusivamente, porque luego cuando no ha tenido la oportunidad de volver a ser presidente ya hemos visto lo que ha pasado, ha durado dos días. Eso lo podían haber aplicado antes y nos hubiéramos evitado muchos problemas. Nadie tiene una receta maravillosa para solucionar esto, pero todos tenemos un papel que hacer.

“La autorregulación pasa porque los usuarios sean responsables”

Marcelino Madrigal

Algunas personas expertas inciden en la necesidad de implementar la alfabetización mediática e informacional ante el aumento de la desinformación desde edades tempranas, ¿es una solución?

No es que sea una solución, es que es una necesidad. Yo soy amigo de la autorregulación y la autorregulación pasa porque los usuarios sean responsables. Siendo los primeros expuestos, tenemos que ser la primera línea de contención de todo esto. Estamos abocados a que la gente joven utilice las herramientas, sobre todo, el uso de la tecnología en cualquier disciplina. Lo que no sirve es que sea una charla un día en el colegio y ya está solucionado. Es una cuestión que deberían de poner que fuera cross durante todo el ciclo educativo y en todas las asignaturas, porque la tecnología se va a utilizar para todo ello. Y una de las cosas que hay que enseñar es, precisamente, a contrastar información, a entender que todo lo que recibimos de la red no tiene por qué ser cierto, es decir, las cuestiones más básicas. Pero no es solo cuestión de los más jóvenes, los adultos pecamos constantemente y somos los mayores consumidores de bulos. La educación es uno de los mejores remedios que hay, aunque no sea una receta universal, porque todos tenemos un papel.

En su opinión, ¿cómo se puede combatir la desinformación y el discurso del odio de una forma efectiva?

Creo que las empresas tendrían que implicarse más, además del tema de la educación que es importantísimo. Hay un comportamiento que no ayuda en absoluto y es el de que cada país va por libre, incluso dentro de lo que es la comunidad europea. Cada uno tiene su propia legislación y eso es un caos. Tiene que ser a, b y c para todos, y todos lo tenemos que tener claro. Hay una cosa que incide y es un acelerante de todo este problema en las redes y es la diferencia que hay entre la concepción de la libertad de expresión de Estados Unidos y la libertad de expresión europea. En Estados Unidos, el discurso del odio está protegido por la Constitución. A través de la primera enmienda, impiden que el gobierno legisle cualquier cosa que interfiera dentro de la libertad de expresión. El único límite que ponen es la amenaza física directa, lo demás todo sirve. Desde el Gobierno no pueden hacer nada, pero eso no quiere decir que una empresa no pueda legislar contra ellos o no pueda tener sus reglas. En cambio, en Europa el concepto de la libertad de expresión es mucho más restrictivo, porque nosotros entendemos que hay colectivos que han sido marginados o dañados históricamente como pueden ser los LGTBI, inmigración, judíos, etc. a los que no se les puede dañar a través de cualquier expresión. Lo que ocurre es que en las redes sociales vemos constantemente uno de los discursos aplicados y precisamente es el de Estados Unidos, porque estas empresas son de allí. Es el concepto suyo y vemos en empresas como Twitter o Facebook que el discurso del odio es omnipresente, porque ellos entienden que es así. La diferencia entre los países hace que, por ejemplo, en Francia se consiga una ley  en 2019 que dice a Twitter que si no quita un contenido, sobre todo, en lo referente a terrorismo, discurso de odio o que dañen a los menores en 24 horas tienen un año de cárcel y 15.000 euros mínimo de multa o hasta un 4% de lo que facture Twitter en Francia. Y en cambio aquí no lo tenemos. Las reglas tienen que ser muy claras y tiene que haber un consenso y eso no existe. 

La entrada Marcelino Madrigal sobre las redes: “Me preocupa más lo que se permite que lo que se censura” se publicó primero en MIL Magazine.

La alfabetización mediática se considera una herramienta poderosa para que, desde edades tempranas, niños/as y jóvenes desarrollen habilidades básicas, tales como el pensamiento crítico. Lina Torres nos explica qué es el proyecto DigiMENTE y cómo se está implementando la educación mediática en Latinoamérica. 

¿Cómo hace el proyecto “DigiMENTE”?

Digimente es un proyecto que construimos en alianza con el Google News Iniciative, la red Teach for All y sus aliados Enseña por Colombia, Argentina y México y Movilizatorio. El proyecto nace de la necesidad inminente de trabajar en temas de educación mediática en la región. El Google News Iniciative tiene un esfuerzo muy sostenido y han venido invirtiendo en varios proyectos de educación mediática y han facilitado el desarrollo de varios currículos. Sin embargo, no existía hasta el momento un currículo para Hispanoamérica. 

El análisis que hicimos fue que esto tenía que ser un proceso de adaptación cultural y de contexto que hiciera sentido con la región. Movilizatorio es el aliado académico, el que hace el trabajo de investigación y de estrategia de socialización. Teach for All, que son expertos en educación, tienen una red muy fuerte en campo a través de la red de voluntarios que trabajan en escuelas públicas y privadas de todo el continente. Entonces, la idea con ellos era poder empezar a pilotear lo que se construyera a nivel teórico, trabajarlo en las aulas y recoger retroalimentación de los maestros y de los estudiantes para tener un currículo lo más contextualizado posible. 

Comenzamos a trabajar hace un año y medio en el proceso de investigación, construcción curricular. En diciembre del año pasado terminamos el pilotaje y se hizo la construcción teórica en los primeros seis del año, se hizo el pilotaje de campo en tres países de Latinoamérica (Colombia, México y Argentina) y este año estamos haciendo una evaluación de impacto para no solo decir que tenemos un currículo, sino también poder decir qué efecto tiene dentro de las habilidades de educación mediática en los estudiantes. Estamos piloteando en los tres países con 300 estudiantes.

“Los jóvenes no se ven a sí mismos como generadores de contenidos de información”

Lina Torres

¿Cómo se puede combatir la desinformación con este proyecto?

Estamos trabajando con un currículo que recoge el estado del arte del conocimiento sobre educación mediática. Lo que encontramos en muchos recursos que hay en el ecosistema tienen que ver con la parte táctica, es decir, cómo identificar información falsa, noticias falsas, y son tips y herramientas muy puntuales. Adicionalmente, nosotros incluimos un elemento que es la parte de las consideraciones éticas, las disposiciones de cómo interactuar con el ecosistema de medios de manera responsable. Una de las cosas que identificamos cuando hicimos el primer levantamiento de información es que los jóvenes no se ven a sí mismos como generadores de contenidos de información, lo cual en la práctica no es tan cierto. Entonces, el tercer elemento que le pusimos es cómo enseñarle a los jóvenes a producir información éticamente y a considerarse a sí mismos parte importante del ecosistema de información y, finalmente, cómo utilizar los medios para la promoción de causas y el activismo y la movilización ciudadana. Estos son los cuatro grandes elementos que componen el currículo y que, en su combinación, creemos que son una herramienta muy completa para luchar contra la desinformación.

Ver esta publicación en Instagram

Una publicación compartida de DigiMENTE (@digimentelat)

¿La alfabetización mediática en la educación de los jóvenes puede ser una ayuda para combatir el discurso del odio y las fake news?

Sí, sin duda. Dentro del trabajo de investigación que hemos hecho, hemos observado varios acercamientos sobre cómo luchar contra las noticias falsas y la desinformación. Uno de los acercamientos que se hace mucho es el fact-checking. Funciona y es una tarea muy importante que hay que estar haciendo constantemente, pero, desafortunadamente, por la velocidad a la que se mueve la información en nuestro mundo, el fact-checking tiende a llegar tarde. Entonces las personas cuando ya les corrigen, resulta que es una noticia que ya recorrió el mundo, la gente tomó decisiones, formó percepciones a través de esa noticia falsa. Ese enfoque nos parece muy reactivo y no soluciona del todo el problema. El enfoque de hacer educación mediática es una apuesta para solucionar el problema de raíz, es decir, que la gente no consuma y no difunda información falsa en primer lugar. Por eso creemos que es una solución mucho más estructural al problema, porque lo que significa es que las personas dejen de consumir, dejen de creer información cuando la ven y no tienen suficiente credibilidad y que, adicionalmente, no la difundan. Entonces, eso aplica también para los discursos de odio, para la estigmatización social. 

¿Qué papel tienen las familias en la alfabetización mediática de sus hijos/as?

Hemos hecho bastante investigación en este tema y es muy interesante encontrar el rol clave que tienen las familias, los amigos y todos los círculos donde socializan los niños y jóvenes en el tema de la educación. Hicimos un experimento donde le preguntábamos en una de las clases a los jóvenes si, por ejemplo, ante un tema técnico -por ejemplo, videojuegos- ellos pedirían información a sus abuelos. Entonces uno diría que no porque, tal vez, no son la mejor fuente o no están tan informados sobre temas de videojuegos. Sin embargo, al preguntarles a los jóvenes ellos decían creerían en lo que diga, porque su abuelo no tiene por qué mentirle. El apego emocional a la fuente, la credibilidad que uno le da a la familia, porque la familia no tendría una razón por la cual mentirte, nos demuestra que ellos sí tienen un rol clave y que son fuentes de verificación. También muchos jóvenes consultan a sus padres cuando tienen dudas sobre las fuentes de información. Esto nos hace pensar que la educación mediática no solo la deben recibir los jóvenes, sino también sus padres porque si sus padres no están teniendo la capacidad de darles las herramientas o de orientarlos correctamente cuando los jóvenes buscan apoyo para verificar la información, simplemente los chicos lo reproducen.

“DigiMENTE fue diseñado a prueba de pandemia”

Lina Torres

Uno de los aspectos innovadores de su proyecto es que la plataforma cuenta con un uso offline para poder llegar a aquellos hogares que carecen de conexión a Internet. Sin embargo, ¿cómo alfabetizar mediáticamente a aquellas personas que se encuentran ‘desconectadas’ porque no disponen de dispositivos tecnológicos en casa?

El proyecto que construimos fue diseñado para poder llegar a ese tipo de comunidades. Diseñamos un currículo para ser mediado por maestros de manera presencial, es decir, nosotros les llevamos el currículo a los maestros y ellos son los que dictan el currículo en las aulas. Ese fue el diseño inicial, pero comenzó la pandemia. Este fue un gran reto y lo que terminó sucediendo es que DigiMENTE fue diseñado a prueba de pandemia. En términos generales, donde no había conectividad, los maestros estaban imprimiendo guías de estudio y enviándolas a los hogares de sus estudiantes. Estos las hacían en casa y, después, los profesores las recolectaban por zonas muy dispersas para poderlas corregir y darles la retroalimentación. 

Construimos una versión del currículo para que se pueda imprimir en un escenario de bajísima conectividad. Existe un segundo escenario en Latinoamérica en el que se están utilizando mucho los audios. Los profesores nos decían que ellos daban las lecciones en mensajes de audio. Lo que hicimos para esto fue hacer los planes de lección de DigiMENTE en formato podcast. Hay un tercer escenario que es el de la educación virtual donde tienen aulas en Zoom y los profesores dan las clases. Ese es un escenario con un poco más de conectividad y para ese caso, hicimos las clases en formato de vídeo. Adicionalmente, construimos en la plataforma web una funcionalidad que no funciona 100% offline, sino que funciona como una app. Una vez que tienes conectividad, la descargas y los datos quedan guardados en el móvil y luego ya no consumen la misma cantidad de datos. Entonces, todas estas son las alternativas técnicas y tecnológicas que desarrollamos para  poder superar las brechas de la conectividad. Sin duda, habrá otros escenarios a los que todavía no es tan fácil llegar, pero creemos que con esto solventamos un gran porcentaje de las dificultades de acceso que podamos tener, sobre todo, en zonas rurales y dispersas de Latinoamérica.

¿Hasta qué punto afecta la desinformación y las noticias falsas en los/as jóvenes?

Tiene muchos niveles de análisis. Un nivel de análisis de desarrollo a nivel personal. Creemos que la información falsa y la desinformación generan ansiedad, que los jóvenes no crean en las posibilidades del futuro y esto es preocupante. Vivir en un mundo con tanta incertidumbre donde no sabes qué es lo real  y qué no es lo real sin duda genera muchísima ansiedad en el proceso de desarrollo y de crecimiento. Hay otro nivel, que es el nivel técnico y trata sobre las habilidades básicas de lectoescritura, de análisis crítico, que van a necesitar durante toda su vida laboral. El tercer nivel es mucho más político, y es que los jóvenes que crecen sin estas herramientas son también fácilmente manipulables, pueden caer en diferentes momentos en posiciones políticas radicales, extremistas, etc. Sí creemos que tiene un impacto a nivel de la democracia y de cómo los jóvenes participan en ella de una manera más o menos responsable. La desinformación tiene muchos efectos negativos que van desde el individuo hasta el nivel macro de tener jóvenes que se desconectan de sus responsabilidades cívicas porque ya no creen en nada o, por el contrario, toman posiciones peligrosas o extremas. Cualquiera es igualmente preocupante y todas son razones para decir necesitamos educación mediática para los niños, niñas y jóvenes. Necesitamos hacerla de manera masiva y nuestro mensaje es que tiene que ser parte del currículo educativo en todos los países. Esto ya no es opcional, no puede ser dentro de las optativas, tiene que ser parte transversal de lo que se enseña en nuestros colegios para poder dar las competencias para la vida y además para fortalecer la democracia en el futuro.

¿Cuán necesario es implementar la alfabetización mediática desde edades tempranas?

El currículo que construimos es para jóvenes de 12 a 17 años. En conversaciones que hemos tenido estamos pensando que incluso antes de los 8 valdría la pena tener un tipo de acceso. Hay consideraciones éticas y técnicas que hay que tener en cuenta. Por un lado, el desarrollo cognitivo en el que se encuentran los niños y niñas en cada nivel; por otro, la responsabilidad de que el acceso a cierta información puede generar ansiedad, porque si no se maneja bien puede ser más delicado. Nosotros consideramos que cuanto antes se comience con la educación mediática, mejor. Una de las experiencias que tuvimos con la pandemia es que muchos de los padres de familia que tenían aislados a sus hijos de las pantallas, en el momento en el que las clases fueron virtuales, esa barrera se derrumbó. Son niños o jóvenes que nunca habían tenido contacto tan directo e intenso con la información que llega a través de las redes sociales. Entonces esto es problemático, porque no recibieron educación mediática y, de un momento a otro, tuvieron que estar absolutamente en contacto con la información que se mueve libremente en redes. Es muy importante que de manera activa y preventiva podamos comenzar a dar pinitos de educación mediática desde los más jóvenes.

La entrada Lina Torres: “La educación mediática ya no es opcional, tiene que ser parte del currículo educativo en todos los países” se publicó primero en MIL Magazine.

La Historia del Arte cuenta con numerosos/as artistas que han marcado un antes y un después. Sin embargo, hay obras que pasan desapercibidas o no reciben el mérito que corresponde. Beatriz Lucea nos explica cómo Utópica Project se lanza a las calles con el objetivo de dar visibilidad a artistas olvidadas y “despertar las conciencias”, tratando de sacar a la luz verdaderas obras de arte que la historia ha olvidado.

¿Qué es Utópica Project?

Utópica es un proyecto 360 grados que pretende alcanzar y dar visibilidad al ámbito del arte y sirva para hacer ciudad, en este caso, Zaragoza y, más concretamente, el Casco Histórico de Zaragoza. Este proyecto va a servir como primer objetivo sacar a la luz o volver a poner en el sitio que merece a una serie de mujeres artistas que son una ínfima parte de todas las que hay, un sitio que nunca debieron perder y que la historia ha borrado. Yo misma soy historiadora del arte y algunas de ellas jamás las había oído hablar. Es un tema que me preocupaba mucho porque a día de hoy me consta que sigue sucediendo parecido. En la medida de nuestras posibilidades queremos que se vuelva a reescribir la historia o como poco incentivar y poner de manifiesto que esto no puede estar sucediendo. Al mismo tiempo  queremos poder contribuir a dar vida a los cascos históricos y a los barrios para generar actividad en sus tiendas, en su hostelería y en sus calles. Una vuelta a las ciudades, a ese vivir a lo slow life. Pretendemos generar curiosidad hacia esas mujeres, seleccionando una obra de cada una de ellas, pero esperamos que sea ese arranque de curiosidad hacia el trabajo de las que hemos seleccionado y de otras, claro.

¿Cuándo nace la idea?

El proyecto lo teníamos en la cabeza desde hace muchísimo tiempo, unos dos o tres años, pero nuestro trabajo diario nos impedía aterrizar y pensarlo. El confinamiento absoluto de marzo nos permitió tener un poquito más de tiempo para reflexionar y concretar esas acciones. Podemos decir que ahora mismo lleva como un año desde que se gestó.

¿Cómo califican la experiencia del colocado de QRs por las calles de Zaragoza?

Es un proyecto 360 grados y no queríamos que se limitaran a las acciones de la semana del Festival (finales de mayo hasta principio de junio). Pensamos que un momento importante para empezar a dar a conocer el proyecto tenía que arrancar el 8-M. Ideamos esta acción de marketing callejero para sensibilizar a la gente a través de datos. Por ejemplo: las mujeres artistas suelen cobrar un 51% menos por sus trabajos que los hombres. Esas cifras nos servían para abrir el debate sobre por qué íbamos a hacer este festival y por qué nos habíamos centrado en mujeres. Nos hemos encontrado con comentarios en prensa digital que decían: “Si una obra es buena, da igual que sea hombre o mujer”. Yo no puedo estar más de acuerdo con eso, pero si la historia se ocupa de que eso no suceda y de que la gente no se entere de que esas obras existen, ahí sí estamos hablando de una desigualdad, porque no estamos diciendo que porque sea de una mujer tenga que ser más buena que la de un hombre. Esa acción queríamos que funcionase de una manera rápida, sencilla y efímera y ha tenido bastante buena acogida. Esos vinilos rosas y amarillos en el asfalto han llamado mucho la atención y han funcionado bastante bien, generando bastante visibilidad al vídeo de presentación del proyecto.

Esta iniciativa surge a pocas semanas del primer Festival Utópica Project. ¿Qué se va a poder ver?

La acción principal son 15 papers de 15 artistas seleccionadas para esta primera edición tras ese trabajo de comisariado. Paralelamente a esos papers, va a haber intervenciones artísticas en escaparates hechos por mujeres artistas actuales y jóvenes que consideramos que están trabajando muy bien y que tienen mucho que contar. Es otra forma de exhibir su trabajo y con eso logramos un poco la desmitificación del arte donde parece que para coger nombre haya que exponer en un museo, en una gran galería o una feria. Queremos que esos nombres empiecen a sonar a través del acercamiento mucho más pop que es los escaparates de esos comercios que hay en la ciudad. También va a haber acciones de hostelería, de mediación con las obras artísticas, unas jornadas muy interesantes que se llaman “La mujer de” en el que hablaremos del estado actual del arte y también va a haber música comisariada.

Ver esta publicación en Instagram

Una publicación compartida de Utópica Project (@utopicaproject)

¿Qué papel cumple el público en este proyecto?

Lo que esperamos es que la gente se divierta, no queremos ir de intensas por la vida. Es un festival, hemos pasado todos un año muy malo, nos apetece estar en la calle y el festival está pensado precisamente para eso. Cuando hace un año empezamos a aterrizarlo, todos teníamos mucha incertidumbre y teníamos muy claro que esa incertidumbre iba a durar tiempo. El festival empieza el 1 de junio, unos días antes porque es fin de semana, pero escogimos esta fecha porque es el Día del Historiador del Arte. Elegimos esa fecha muy a propósito porque es la propia Historia del Arte la que ha negado el sitio a estas artistas, a algunas de ellas. Todo está planteado para que pueda ser disfrutado en la situación en la que estamos. Lo que queremos es que la gente pueda disfrutar de las calles de Zaragoza en un entorno seguro y despertar las conciencias sin ningún tipo de intensidad, simplemente para que la gente disfrute y demos visibilidad a esas artistas.

*Actualización 31/05/2021: El festival se ha retrasado un mes y dará comienzo del 9 al 18 de julio de 2021.

La entrada Beatriz Lucea: “Las mujeres artistas suelen cobrar un 51% menos por sus trabajos que los hombres” se publicó primero en MIL Magazine.

La tecnología ha permitido en los últimos años un gran avance social y económico. Los avances tecnológicos han entrado en el aula, en los quirófanos, en las redacciones, pero también en los hogares. Todo ello nos ha permitido introducir mejoras, pero también conlleva riesgos si no se hace un uso adecuado. Para ello, se llevan a cabo campañas de sensibilización en la sociedad por parte de diversas instituciones. Hablamos con José María Otín sobre cómo abordar los problemas que nos puede presentar la tecnología y el impacto, especialmente, en personas jóvenes. 

El aumento del discurso en redes sociales es una problemática social grave, especialmente, entre los más jóvenes. ¿Cómo se puede combatir?

Los niños y adolescentes carecen de un juicio crítico sólido, están en desarrollo físico y psíquico. Es una etapa muy permeable, en la que captan con facilidad aquellos mensajes que les llaman la atención. Es lo que se aprovecha desde los movimientos xenófobos e intolerantes de todo tipo, que utilizan mensajes simples, directos y fácilmente asimilables, acompañados de una simbología y formalismos que fomentan el sentimiento de pertenencia a un grupo, algo que es muy importante en la adolescencia. En consecuencia, resulta sencillo que sus idearios calen con facilidad en ese sector de la población. La mejor manera de hacer frente a este problema pasa, en mi opinión, por utilizar sus propias armas, a través de campañas de información especialmente diseñadas y dirigidas a los jóvenes, acompañadas de alternativas de ocio que les resulten atractivas; junto con la inclusión en los programas educativos de contenidos que fomenten la tolerancia, la diversidad y la aceptación de aquellos que los jóvenes no consideran “iguales”.

¿Cuáles son los delitos cibernéticos más frecuentes?

Con mucha diferencia, los fraudes y estafas informáticos acaparan casi el 90% de los delitos denunciados; seguidos, muy de lejos, por las amenazas y coacciones con el 12%. Estas son las cifras que facilita el Sistema Estadístico de Criminalidad de la Secretaría de Estado para la Seguridad, siempre basadas en hechos denunciados y conocidos. Pero en lo referente a delitos graves contra las personas como la corrupción de menores, el ciberacoso, las denominadas “sextorsiones” o el abuso sexual de menores en internet no sabemos realmente el alcance de estos delitos, puesto que no se conoce el número de ellos que no son denunciados por sus víctimas, es lo que en criminología se denomina “cifra negra”.

¿Somos conscientes de los peligros que hay en Internet y, en especial, en las redes sociales?

La respuesta debería ser un “sí” rotundo, atendiendo a la continua difusión de campañas y programas de prevención e información al respecto. Pero la realidad es terca y se empeña en mostrarnos que no es así. Y en ello influyen algunas características del ciberespacio que lo configuran como un ecosistema ideal para el delito: el anonimato, que propicia el denominado efecto de desinhibición online, y el efecto de la masa, que facilitan la ejecución de conductas temerarias que no llevaríamos a cabo en el mundo físico; la contracción del espacio, con la desaparición de las distancias y las fronteras; o la facilidad de acceso a internet, por decir solo algunas. Son características que contribuyen a propiciar al usuario una falsa sensación de seguridad que conlleva mucha desatención por los riesgos que supone la navegación por internet y el uso descontrolado de las redes sociales, especialmente por los menores.

¿Advierte un aumento de los delitos cibernéticos en este año de pandemia?

Sí, lógicamente el confinamiento primero y las restricciones de movilidad y relación social en las que estamos inmersos ahora, han multiplicado el uso de internet y por lo tanto las oportunidades para los ciberdelincuentes. A mayor número de usuarios mayor riesgo de victimización y mayor número de delitos, sin duda.

“No hagamos en el ciberespacio lo que no haríamos en la calle”

José María Otín

Expertos/as inciden en la necesidad de implementar la alfabetización mediática para desarrollar competencias. ¿Qué opina al respecto?

El desarrollo y la adquisición de competencias digitales tienen una importancia capital en la formación de nuestros niños y jóvenes. No se trata de que sean capaces de manejar con solvencia un amplio abanico de programas y aplicaciones informáticas, se trata de que aprendan cuestiones vitales para que el uso de Internet no resulte perjudicial en su desarrollo como personas. Es prioritario que aprendan una cultura de ciberseguridad, pero también a desarrollar el pensamiento crítico, a identificar y filtrar las fake news y los bulos, a buscar fuentes de información fiables, a conocer las sutiles pero poderosísimas técnicas de manipulación psicológica online… Todo esto y más debería implementarse en el sistema educativo como una asignatura troncal si queremos evitar que las futuras generaciones sean masas adocenadas de individuos acríticos dirigidos y manipulados por los grandes monopolios comerciales y algunos gobiernos.

Cada vez los/as jóvenes crean antes sus perfiles en redes sociales. ¿Considera que debería implementarse formación para saber hacer un buen uso?

Es también muy importante un adecuado control social al respecto. La sociedad está de acuerdo en que no puede dejarse a un niño de 11 años conducir un vehículo a motor, o manejar sin supervisión un arma de fuego. Pero asume con increíble naturalidad que a esas edades e incluso más tempranas, los niños dispongan de dispositivos con acceso libre a Internet y sin ninguna supervisión, lo que puede ser tan peligroso para ellos como conducir el coche sin carné o jugar con un arma cargada.

El desarrollo de la Inteligencia Artficial va a permitir muchos avances tecnológicos, ¿puede llegar a suponer un problema, especialmente, en temas como la desinformación?

No es que pueda llegar a serlo, es que ya lo es. Para manejar el big data generado por el uso de internet ya se utiliza IA, capaz de generar perfiles psicológicos increíblemente precisos tanto a nivel individual como grupal que se utilizan con fines comerciales, pero también para otros fines ilícitos, como la desinformación. Ya se ha demostrado cómo una buena campaña en internet puede modificar el sentido del voto y condicionar el resultado de unas elecciones electorales, por ejemplo.

Por su experiencia, ¿qué consejos daría para concienciar del uso responsable de internet?

Creo que cuatro palabras lo resumen todo: concienciación, formación, supervisión y prudencia. Concienciación, porque sin ser consciente de los riesgos que supone el uso de internet no daremos la importancia necesaria a los siguientes aspectos. Formación para cualquier usuario de Internet sea cual sea su edad, nivel cultural o circunstancias personales. Supervisión para los más pequeños siempre, los niños y jóvenes son un colectivo muy vulnerable a la manipulación y el engaño en internet, a pesar de que sean técnicamente competentes y tengan formación teórica, por su inmadurez intelectual y psíquica al no haber finalizado su desarrollo. Prudencia, porque disminuye enormemente el riesgo de ser víctima en Internet. No hagamos en el ciberespacio lo que no haríamos en la calle.

La entrada José Mª Otín: “El desarrollo y la adquisición de competencias digitales tienen una importancia capital en la formación de nuestros niños y jóvenes” se publicó primero en MIL Magazine.

A propósito del “Día internacional de la mujer“, en AIKA Educación hemos querido abordar la brecha de género en la industria tech, una realidad que no solo afecta a las profesionales consolidadas y las jóvenes con inquietudes en este campo, sino que genera enormes sesgos en la producción de nuevas tecnologías y arquitecturas tecnológicas, y por ende, en la sociedad. Una segregación que sigue creciendo en lugar de disminuir.

A través de tres podcasts, compartimos la opinión de estas profesionales sobre el tema. Ellas confirman la existencia de una disparidad de género en la industria tech. Asimismo, rompen el prejuicio de que la habilidad en este campo es solo masculina. Otro mito que anulan es que la tecnología es aburrida. La pasan bien, les apasiona su carrera y les genera la misma ilusión que el primer día que empezaron. Para ellas se trata de ganar espacio y de servir al país y la sociedad.

Desde España: la visión de una profesional tech sobre la brecha de género

Nuria Oliver es una de las españolas más conocidas en el campo de la inteligencia artificial en España. La ingeniera de telecomunicaciones y PdH en ciencias de la computación, IA y aprendizaje automático por el MIT, es una apasionada creyente de que la ingeniería y la informática son campos transversales a toda área, que abren un panorama versátil para cualquier profesional y son un sector que ayudan a construir un futuro.

La ingeniera y especialista en IA cree que “necesitamos muchísimas más mujeres y que entre todas contribuyamos a esa definición que en futuro represente la mejora de la calidad de vida de todas las personas y seres vivos del planeta”. Además de otras vivencias y visiones que narra en el podcast que compartimos.

La brecha de género tech en Sudamérica

En Chile y Colombia la disparidad de perfiles femeninos en el sector tecnológico frente al de sus pares masculinos también se expresa. Dos ingenieras colombianas nos narran su experiencia trabajando en este campo. Magda desde su patria y Fanny desde el país chileno, confirman que este brecha, junto al machismo, se desenvuelven en su campo profesional y sienten que es necesario que más mujeres se sumen a este sector para acortar esta vía de desigualdad.

Fanny Rubiano, una ingeniera de sistemas viviendo en Chile, quien ha trabajado para compañías como el Banco Occidente de Colombia y se desempeña actualmente como jefa de proyectos de la consultora CPI Mgroup, relata ese interés precoz que sintió cuando desde muy joven le gustaba diseñar algoritmos y crear cosas nuevas desde la tecnología. Ella observa que hay muchas menos mujeres en el sector tecnológico, por lo que muchas veces deben asumir una “actitud más fuerte para ser respetadas en un ámbito que es tradicionalmente masculino y además en una sociedad que es muy machista”.

Magda se da tiempo para atendernos y compartir su testimonio desde la cuarentena en Colombia, entre las labores profesionales y la atención de sus dos hijos, Santiago e Isabella. Mientras nos cuenta sus actividades diarias, de repente emerge la voz del primero de ellos, reclamando la atención de mamá. Sin inmutarse continúa con ambas cosas y con igual lucidez afirma que siempre le llamó la atención la brecha de género que existe en su sector.

Ahora que forma parte de este mundo, ella observa que los salarios y oportunidades para las mujeres en este campo son menores que para sus pares masculinos. Sin embargo, cree que las nuevas generaciones de jóvenes mujeres deben pugnar por formar parte de este sector y les dice que “no pierdan interés en estas áreas, sigan sus sueños, sus pasiones y que nadie les diga que no pueden intentarlo”.

Desde estos tres testimonios, hemos querido resaltar en AIKA Educación una brecha que existe desde hace años y que según las cifras brindadas por diversos organismos, no solo existe sino que al parecer está creciendo, según lo indica una de nuestras entrevistadas. El no contar con la participación femenina en este campo en igual magnitud que los profesionales tech masculinos, genera enormes disparidades en la vida social, lo que va incrementándose conforme las fronteras entre lo digital y analógico se difuminan.

En anteriores entrevistas, con otras mujeres tech, como Elisa Vivas, abordamos las consecuencias de esta disparidad. Por ejemplo, en la construcción de algoritmos. Si estos solamente son designados o diseñados por un sector social, los prejuicios de las personas se adhieren a los sistemas computacionales u aplicaciones que usamos. Lo mismo aplica para otros sectores sociales que no están representados. Ya lo estamos viviendo. Por ejemplo, en su momento, los algoritmos de Amazon para contratación de mujeres le daban menos valor a los perfiles femeninos. Algo que ya corrigieron, pero sucedió.

Para organismos como la UNESCO y expertas en inteligencia artificial a las que hemos entrevistado, Lorena Jaume-Palasi, las nuevas tecnologías, como la IA, son infraestructuras sociales, porque influyen en la vida de las personas, por lo que romper las brechas de cualquier tipo es imperativo. Lamentablemente, estos tres testimonios nos restriegan esa realidad pero a su vez conceden la esperanza de que vale la pena apostar por caminos desconocidos y romper los prejuicios.

La entrada Cómo viven y ven la brecha de género las mujeres Tech desde su experiencia se publicó primero en MIL Magazine.

La media literacy (alfabetización mediática) es un gran pendiente de nuestra agenda social. El desarrollo tecnológico y la revolución de Internet ha traído consigo una sobreabundancia de información que se torna compleja de gestionar. Frente a esto, existe la necesidad de profesionales y empresas de medios comprometidos con el trabajo informativo de calidad; sistemas de gobierno que impulsen la libre y responsable circulación de contenidos; y una audiencia formada para hacer un consumo crítico de la misma.

En esta línea, nos detenemos con particular interés en un área concreta de la media literacy, que se torna de mayor relevancia en medio del fenómeno de noticias falseadas que afrontamos: la news literacy  (alfabetización periodística). Por ello, en Aika entrevistamos a José Manuel Pérez Tornero, recientemente elegido miembro del Consejo de Administración de RTVE, especialista en media literacy y catedrático de la Universidad Autónoma de Barcelona. El investigador es director del Gabinete de Comunicación y Educación, forma parte del grupo de expertos de la UNESCO y de la Comisión Europea en Alfabetización Mediática y es además miembro del Consejo Directivo ATEI (Asociación de las Televisiones Educativas y Culturales Iberoamericanas).

En esta entrevista, Perez Tornero propone un replanteamiento de la concepción del periodismo, que trascienda los espacios formales para que así la news literacy alcance progresivamente todos los espacios de circulación de información. Asimismo, respecto al estadio en el que el mundo entero se encuentra ahora por la expansión del Covid-19, el especialista habla de la importancia de un compromiso y trabajo conjunto de diversos sectores de la sociedad para combatir las grandes mentiras que circulan por la red.

No es lo mismo hablar de alfabetización mediática y de alfabetización periodística. ¿Qué implica cada una de ellas?

La alfabetización mediática incluye a la alfabetización periodística (news literacy). Por tanto, esta última remite a todas las habilidades y capacidades técnicas y críticas que se relacionan con eso que llamamos periodismo y que incluye todas sus actividades y todos sus géneros (noticias, crónicas, reportajes, etc.).

Ahora bien, creo que tenemos que cambiar algo en nuestra concepción tradicional del periodismo. Generalmente, lo hemos referido siempre a la actividad de las personas e instituciones que formalmente se dedicaban a producir textos periodísticos en cine, radio, televisión y prensa. Pero, actualmente, la explosión de los blogs, de las redes sociales (Facebook, Twitter, etc.), de espacios de producción cooperativa de contenidos (foros, wikis, etc.), y de aplicaciones de relación personal entre grandes masas de población (Instagram, Whatsapp, etc.), ha expandido enormemente el campo de información de noticias, opiniones y análisis. Ha creado un nuevo espacio informal de producción y circulación de informaciones de presunto interés público. Y, además, esta expansión está afectando enormemente al periodismo tradicional –confrontándolo, reforzándolo o pervirtiéndolo; depende de las circunstancias–.

Por tanto, en este contexto, creo que el concepto de alfabetización periodística tiene que ir incluyendo progresivamente todo lo que tiene que ver con la circulación de información que afecte a la esfera pública, sea una actividad formal o informal. En todo caso, el núcleo central de la alfabetización periodística debe seguir siendo el periodismo formal. Porque ese periodismo sigue siendo importante en la validación y legitimación de la información circulante y porque su influencia no es desdeñable.

¿Por qué es importante que exista una alfabetización periodística y a qué actores involucra?

Cuando se trata de derechos humanos y de democracia –que creo que son valores que deben guiar la actividad pública y las ciencia sociales– el valor de la información veraz, contrastada, pública y responsable es esencial.

Hoy por hoy, el periodismo es una buena herramienta para asegurar el derecho a la información, la actividad responsable de la libertad de expresión, la deliberación y el debate públicos, así como el respeto a los demás, el aseguramiento del pensamiento racional y la ciencia, y en definitiva la convivencia pacífica y el buen gobierno. Por tanto, todo lo que pueda contribuir a un periodismo de calidad es esencial. Y sabemos que no puede haber periodismo serio, riguroso y responable si no es demandado, cuidado e impulsado por una opinión pública formada, aútónoma y crítica. Pues bien, para construir esta opinión pública tan necesaria, se requiere el concurso de la alfabetización periodística.

“Sin democracia y sin libertad, no es posible la alfabetización mediática”

¿Qué sectores o políticas alcanza/afecta este campo?

En primer lugar, a los periodistas. Los objetivos de alfabetización periodística tiene que estar en la base de todas sus actividades. Si es así, es un buen signo de que respetan a sus lectores o audiencias y que respetan a la ciudadanía. Esto significa que en la formación inicial y continua de periodistas, la alfabetización periodística –que afecta a los profesionales tanto como a sus públicos– es decisiva. En segundo lugar, a las instituciones periodísticas –empresas, entidades públicas, etc.– que deben invertir buena parte de sus recursos en la alfabetización de sus usuarios y públicos.

En tercer lugar, a todos los sistemas educativos. Dentro de cada nivel y ámbito de formación es necesaria algún tipo de alfabetización mediática y periodística. Desde una Universidad a una escuela de cine, desde una escuela infantil a un bachillerato. No se puede estar falto de herramientas críticas en un mundo tan mediatizado como el nuestro.

Pero, en última instancia, la afabetización es tarea de todos: políticos, actores sociales, científicos, intelectuales, artistas… Todos queremos vivir en un mundo mejor y aceptamos, que no hay mundo bueno sin libertad y sin buen periodismo.

¿La sociedad democrática liberal a la que pertenecemos ha colaborado en el desarrollo de una News Literacy?

Sin democracia y sin libertad, no es posible la alfabetización mediática. Cualquier cosa que prescinda de estos dos valores será doctrina, propaganda o formación del tipo que sea, pero no será alfabetización periodística. Si lo que me pregunta es si los Estados actuales que se reclaman de democráticos y de liberales han colaborado con la alfabetización mediática, he de decir que no mucho y, en todo caso, no lo suficiente. Están, generalmente, muy preocupados por el discurso publicitario y consumista. Tampoco han hecho mucho los estados iliberales que se reclaman de democracia. Estos prefieren el adoctrinamiento de las masas, o sea, la propaganda política antes que el pensamiento crítico. Y, finalmente, las sociedades que por cualquier fundamentalismo no son ni liberales, ni democráticas: están más implicadas en imponer unas formas de pensamiento tiránico que nada tiene que ver con el periodismo ni con la alfabetización.

“Se debería crear un sistema de cortafuegos a la hipermasificación de la desinformación”

En el contexto actual, frente a la inmensidad de información que circula sobre el COVID-19, y con una realidad que nos supera frente al manejo de noticias falsas sobre el tema, ¿qué es lo que corresponde hacer?

Es sencillo de enunciar y difícil de ejecutar.

La información de los estados –o sea, la pública– ha de ser transparente, sin vaguedades y sin incertidumbres más que las lógicas en una situación en que no sabemos muchas cosas. Los políticos y las instituciones tiene que abandonar las viejas y corrompidas estrategias de desinformación, falsas noticias, teorías falsamente conspirativas y realidades alternativas.

Los medios periodísticos tienen que hacer periodismo de calidad, crítico, riguroso, responsable y ofrecer buena información –y criterios para distinguirla– a sus lectores o audiencias.

Se debería crear un sistema de cortafuegos a la hipermasificación de la desinformación –que en estos mometos hace mucho daño a la sanidad y a la ciencia–. En este tema, hay que implicarse en levantar alertas tempranas contra la desinformación y las falsedades y la circulación de bulos. Hay que imponer responsabilidad jurídica muy precisa a quienes, como las redes sociales, ayuden a difundir masivamente información en la esferea pública. Es la irresponsabilidad, cuando no la complicidad consciente, de muchas redes sociales la que contribuye a la desinformación pública.

Finalmente, como estamos en una situación especial, creo que la comunidad científica y universitaria debería crear una red internacional para combatir las grandes mentiras que circulan con impunidad por la red. Esto sería el principio de una coalición por la transparencia y la regeneración de la esfera pública global que tanto necesitamos.

La entrada José Manuel Pérez Tornero: “No se puede estar falto de herramientas críticas en un mundo tan mediatizado como el nuestro” se publicó primero en MIL Magazine.

Todas estas preguntas y más las aborda Frank Pasquale, quien conversó con AIKA sobre la Inteligencia Artificial (IA) en la era de COVID-19, la regulación en este sector y su nuevo libro New Laws of Robotics  o en español “Nuevas leyes de la robótica: Defendiendo la experiencia humana en la era de la IA” (Harvard University Press, 2020), entre otros aspectos relevantes.  

Frank Pasquale, un experto en la ley de la inteligencia artificial, los algoritmos y el aprendizaje de las máquinas, además autor de obras como ‘New Laws of Robotics’ y la ampliamente citada ‘The Black Box Society‘ (Harvard University Press, 2015). En esta última, desarrolló una teoría social de la reputación, la búsqueda y las finanzas, y promovió reformas pragmáticas para mejorar la economía de la información, incluida una aplicación más vigorosa de la legislación sobre competencia y protección del consumidor. ‘La Sociedad de la Caja Negra’ o The Black Box Society, por su título original, ha sido reseñada en Science and Nature, publicada en varios idiomas, y su quinto aniversario de publicación se ha celebrado con un simposio internacional en Big Data & Society.

Pasquale es profesor de Derecho en la Facultad del mismo nombre en Brooklyn, miembro afiliado del Proyecto de la Sociedad de la Información de Yale, y miembro distinguido de Alto Impacto de Minderoo en el Instituto AI Now. También es Presidente del Subcomité de Privacidad, Confidencialidad y Seguridad del Comité Nacional de Estadísticas Vitales y de Salud del Departamento de Salud y Servicios Humanos de los Estados Unidos.

• En su nuevo libro “Nuevas leyes de la robótica”, usted destaca la importancia de crear equipos o ” colaboraciones” de humanos y robots en los diferentes campos; cuéntenos más sobre la importancia de dichas colaboraciones y los retos que se interponen en el camino de su éxito? ¿Cuáles son las posibles soluciones para superar esos desafíos?

Permítanme dar algunos ejemplos de los primeros capítulos del libro. En medicina, hay un conjunto muy interesante de asociaciones que se están desarrollando entre enfermeras y robots. Uno de ellos es el Robear, que es un robot diseñado para ayudar a las enfermeras a levantar a los pacientes, especialmente a los más pesados, de la cama. Esta es una innovación realmente importante porque muchas enfermeras tienen problemas ortopédicos porque están levantando pacientes extremadamente pesados o pacientes que son muy vulnerables y necesitan ser levantados con mucho cuidado. El robot está diseñado para permitir el traslado del paciente desde, por ejemplo, una cama a otra cama, o una cama a una silla sin exigir un esfuerzo físico excesivo a las enfermeras. Así que creo que este es un muy buen ejemplo de lo que yo llamo la primera nueva ley de la robótica en mi libro; la IA y los sistemas robóticos deben complementar a los profesionales y no sustituirlos. Es una tarea relativamente estrecha y bien definida, la enfermera siempre está presente, y trae el robot para ayudar. Creo que vamos a ver más y más de estos ejemplos de robots, particularmente en tareas rutinarias; por ejemplo, llevar medicamentos a los hospitales.

Ahora, en términos de desafíos, claramente hay desafíos en términos de este tipo de IA; (como, por ejemplo) ¿es demasiado costosa? ¿Se interpone en el camino? ¿Podemos incluir más y más tareas en un robot como Robear? Habrá preguntas muy interesantes para el futuro. Algunos desarrolladores de IA quieren desarrollar sistemas de IA muy extensos que no sólo hagan tareas manuales sino que también asuman roles como el cuidado, tratando de ofrecer algo como la empatía o de parecer empáticos. Así que puedes imaginarte un robot que intente parecer triste cuando un paciente está sufriendo o parecer feliz cuando un paciente, digamos, da unos pasos más allá de lo que normalmente lo haría.

Esa es la situación en la que creo que el robot ha pasado de complementar a un profesional a sustituirlo, y lo más importante desde la perspectiva de mi libro falsificando la humanidad: el robot está fingiendo sentimientos. Lo que quiero decir con eso es que el robot está imitando las emociones humanas, aunque los robots no pueden sentir realmente las emociones humanas. Eso es un perjuicio para los pacientes y las enfermeras, que como profesionales están entrenadas en términos de cómo conectarse expresivamente con los pacientes, y empatizar con los pacientes. Las personas pueden hacer eso auténticamente porque han experimentado el dolor y las decepciones de sus propias vidas, y también la alegría y la sensación de logro. Un robot no puede hacer eso.

Así que estas dos primeras leyes de los robots en mi libro tratan sobre: los robots deben complementar a los profesionales y no sustituirlos, y que los robots no deben imitar o fingir la humanidad. La imitación, la simulación y la falsificación, son tres términos que utilizo en el libro y que trato de definir muy cuidadosamente porque creo que la idea de falsificación tiene una resonancia con el uso de dinero falso que es apropiado aquí. Mi temor es que tenemos robots y sistemas de IA que están fingiendo las emociones humanas y que están tratando de reclamar nuestra atención de la manera en que los seres humanos pueden.  Es como vivir en una economía donde el dinero malo expulsa al bueno, donde el dinero falso, una vez en circulación, reduce nuestra fe en el valor del dinero existente. Así que los robots o máquinas que fingen la capacidad y empatía humanas, disminuirán nuestra valoración de la empatía humana genuina, o nos confundirán sobre cuándo existe realmente, y cuándo es una mera imitación de los humanos, o, peor aún, los humanos imitan la imitación de los humanos.

Otros tipos de asociaciones podrían ser en el ejército, donde hay muchos sistemas robóticos en desarrollo. Hay algo llamado la Cucaracha Octo, que es un robot que está diseñado para actuar como una cucaracha pero tiene ocho patas, de ahí el nombre de “octo”. Podría arrastrarse dentro de los edificios y podría vigilar las cosas. Hay drones que robóticamente podrían ser autónomos, algunos lanzarían misiles balísticos una vez que lanzaran una forma de máquina asesina autónoma. Hay robots asesinos que automáticamente disparan a los individuos. Así, por ejemplo, en zonas de guerra particularmente disputadas, puedes tener un robot que controla una ametralladora que detecta a alguien que viene a través de la visión artificial o de sistemas auditivos que suenan como un enemigo o que parecen un enemigo. Todos estos son ejemplos que creo que son preocupantes, principalmente porque violan mi tercera nueva ley de la robótica, que es: la robótica y los sistemas de IA no deben intensificar las carreras de armamentos. Creo que se trata de una carrera armamentista literal, en la que una vez que una nación tiene una flota de drones autónomos asesinos, otros países van a desarrollar su propia flota de drones autónomos asesinos, y esto conduce a formas de inversión creciente en maquinaria que podrían tener consecuencias muy destructivas. Así que, para mí eso es realmente un problema crítico de la IA y eso es algo que tenemos que abordar.

La primera ley del libro, que un robot complementa a un profesional, dictaría que cualquier robot militar sea controlado por una persona o sea controlable por una persona. Pero también tenemos que estar seguros de que estamos en un entorno en el que se puede mantener ese control. Hay futuristas militares que se preocupan de que si no nos unimos a la carrera armamentística militar, eso se convierte en una amenaza a su capacidad de actuar lo suficientemente rápido para contrarrestar un ataque. A partir de este concepto se desarrolló la idea de una guerra de pulsadores (guerra realizada con misiles (nucleares) que pueden ser lanzados con sólo pulsar un botón), y estoy tratando de ayudarnos a evitar eso! Creo que no queremos vivir en un mundo en el que alguna gran potencia, o una potencia aún menor, desarrolle un sistema robótico que sea tan rápido en el ataque que todos los demás tengan que tener defensas robóticas para contrarrestarlo…y que, a su vez, se conviertan en objetivos de nuevas formas de ataque, etc.

Así pues, ese podría ser un ejemplo de respuesta a la cuestión de los problemas que se oponen al éxito de las asociaciones. Es fascinante cuando se piensa en el éxito en el contexto militar, ¿y cuál es? Este fue el capítulo más difícil de escribir en el libro, porque desde la perspectiva de un militar de un país, tener éxito significa ser tan intimidante para otros países que ni siquiera intentan luchar contra ti. ¡Pero eso no puede ser la definición del éxito para el mundo! El éxito para el mundo tiene que referirse a algo que es más sobre la multipolaridad; la idea de que hay múltiples polos de poder en el mundo, no sólo unos pocos países con el poder de intimidar o destruir a todos los demás.

• Cuéntenos sobre su caso favorito cuando se trata de ” colaborar con la tecnología”? ¿Por qué lo ve como un ejemplo de éxito?

Mis leyes están a favor de la colaboración, en lugar de sustituir la robótica por los profesionales. Creo que uno de los paradigmas más exitosos que veo están ocurriendo ahora mismo en la medicina, por ejemplo los médicos que son reconocedores de patrones que trabajan con expertos en Inteligencia Artificial para evitar errores. Verás, la idea aquí es que todavía tienes dermatólogos para mirar las anormalidades de la piel, digamos que hay un lunar en la mano de alguien, ese dermatólogo examinará ese lunar y lo diagnosticará como un melanoma o no basándose en su experiencia existente y su conocimiento de la literatura médica. Pero a veces existe este miedo en el fondo de su mente de que si no se parece a uno pero podría serlo; como yo tengo el 80% de la sensación de que no lo es pero tal vez sí. ¿Está en orden una biopsia? Eso puede ser doloroso e inconveniente para el paciente.

Creo que en el futuro se verán cada vez más escaneos realizados por sistemas de visión artificial que darán a la gente una idea mucho mejor de la probabilidad de que algo sea un cáncer, para ayudar a los especialistas a evitar errores. Así que creo que es un aspecto muy importante de la IA, que podría hacer mucho para evitar errores, y ayudar a mucha gente en dermatología, patología, radiología; todas esas formas de reconocimiento de patrones, para ayudar a los médicos a sentirse confiados de que no serán demandados por no haber detectado una forma inusual de cáncer. Así como la IA se está volviendo mucho más exitosa en la conducción como un preventivo de errores, más que como un conductor en sí. Por supuesto, espero que la conducción se convierta en algo totalmente automatizado, y no espero ver el mismo resultado en la medicina, precisamente porque es sólo una entrada de información en el campo profesional que necesita ser entendida y aplicada por un profesional responsable.

Por supuesto, está la cuestión de si la IA también está equivocada. Pero en general, mi esperanza es que estas van a ser formas muy poderosas de asegurar menos errores en el sistema médico, lo cual es bueno por supuesto, porque mucha gente muere de errores médicos. Así que queremos tratar de minimizar esto tanto como sea posible. Creo que hubo un informe médico en 1998 que estimó más de 90 mil muertes en los EE.UU. por año debido a errores médicos, y realmente no lo hemos hecho mucho mejor desde entonces. Por lo tanto, la pregunta importante se convierte en cómo usamos la mejor tecnología para hacerlo mejor.

También creo que en la educación hay algunas buenas asociaciones donde tienes robots que pueden enseñar a los niños lecciones que no están disponibles en los maestros locales. Y eso es particularmente importante cuando piensas en los niños más pequeños. Por ejemplo, imagina una familia que quiere que su hijo pequeño aprenda chino, pero no sabe chino, y tampoco lo sabe nadie de su entorno. En este caso puedes tener un robot interactivo, entretenido y bien diseñado para enseñarles chino. Eso es realmente importante como una nueva oportunidad.

Pero creo que también será una situación en la que no queremos sustituir a los propios profesores. Porque la interacción personal es constitutiva de una buena enseñanza, tiene que haber una persona responsable que interactúe con los estudiantes, mediando entre ellos y toda la tecnología que pueda ayudar o dañar, ayudar o parasitar, interesar o distraer.

También se trata de la democracia, de mantener diversas prioridades y formas de conocimiento en la sociedad. Los profesores van a enseñar otras asignaturas en las que podrían tener una experiencia o un punto de vista particular y la capacidad de tener un modelo socialmente interactivo para todos los estudiantes. Pero no pueden hacerlo solos, ya que ciertamente no conocerán todos los idiomas del mundo u otras cosas que podrían ser más interesantes en matemáticas, artes, codificación, cultura, historia, ciencias sociales, etc. Por lo tanto, en todas esas áreas la IA y la robótica pueden ser suplementos increíbles, y también el profesor puede ser un evaluador de calidad en términos de ayudar a los estudiantes y a sus familias a saber qué IA es más útil y cuál es menos útil. Así que creo que es un ejemplo importante de las asociaciones con la tecnología.

• En la introducción del libro “Nuevas leyes de la robótica”, además de plantear cuestiones sobre el mejor uso de la IA a través de la “interacción robótica y humana” dentro de un marco regulado, se destaca la importancia de democratizar la toma de decisiones en lugar de dejarla en manos de unos pocos poderosos. ¿Qué quiere decir con esto? ¿Cómo se puede lograr esa democratización?

Voy a usar el ejemplo que acabo de usar con los robots de enseñanza; maestros y bots o IA que podrían ser usados para enseñar ciertas lecciones. Imaginen que iríamos mucho más allá de lo que acabo de describir y nos encontramos con una sociedad como la de los EE.UU. con, digamos, 10.000 profesores en las escuelas secundarias públicas que enseñan historia americana. Y luego las juntas escolares dicen, “sabes que nos cobran demasiados impuestos para apoyar a estos 10.000 profesores de historia americana, así que vamos a tener un robot de enseñanza que tiene un curso de historia prescrito, y vamos a extenderlo a todas las aulas y va a ser una sola clase de historia para todos los Estados Unidos”. Creo que sería un desarrollo muy preocupante, porque creo que hay gente en diferentes escuelas, con diferentes antecedentes, con diferentes ideas sobre lo que es importante en la historia y lo que no, quiero ver a todas esas personas enseñando historia de manera diversa en todo el país, no quiero que todos reciban la misma versión de la historia.

Por supuesto, se podría decir que podríamos intentar programar todos ellos en algún robot que tenga 10.000 tipos diferentes de enseñanza en él, pero sigo pensando que eso sería perder el punto de la democratización porque parte de la distribución del poder y la experiencia significa que hay gente que tiene algún control sobre su vida diaria, su propia parte del mundo. Esta idea de tener control sobre algún rincón de la vida o alguna parte de la misma, es una de las razones por las que mucha más gente apoya una garantía de empleo (o al menos programas de gobierno de apoyo al empleo) que apoyan el ingreso básico universal.

Ir a trabajar en cualquier contexto particular te da cierto nivel de control. Incluso cuando el jefe es controlador, todavía tienes un nivel de control o autonomía en tu posición y tienes socialización; tu socialización en el proyecto común del lugar de trabajo, como parte de un grupo más grande de trabajadores. Por lo tanto, creo que eso es parte de la clave para la democratización en el futuro de la política de automatización; es que queremos tener la capacidad para que los seres humanos ayuden a gobernar sus lugares de trabajo y a gobernar el desarrollo de la tecnología en ellos.

Esta idea se ve en el libro de Elizabeth Anderson “Private Government”. Ella ha descrito el problema que tenemos hoy en día de que tantos lugares de trabajo son gobernados por jefes con mano de hierro, ya sabes, es como una dictadura, y dice que tenemos que democratizar los lugares de trabajo. Creo que tiene razón en eso, pero también creo que subestima cómo, incluso en lugares de trabajo muy controlados, todavía hay una especie de espacio para la autonomía. Incluso un asistente del gerente nocturno de una farmacia, por ejemplo, podría tener la oportunidad de conocer a otros trabajadores, organizar la tienda de cierta manera, tratar de encontrar la manera de entregar los paquetes o acomodar a una persona encerrada, etc.

Hay formas de emociones que uno tiene en el trabajo significativo, de participación en el mundo. Puede existir sólo parcialmente o imperfectamente en muchos lugares. Pero eso también es parte de lo que el libro trata; que debemos escuchar atentamente y tratar de entender las experiencias de las personas en todos los ámbitos de la vida. Además, el derecho y la política pueden cultivar el sentimiento de (y la realidad de) la participación, la autonomía y el gobierno. Cuando los trabajos incluyen más tecnología, los trabajadores deben tener algo que decir sobre cómo se integra esa tecnología y cómo se diseña.

• La transparencia es un término que se utiliza a menudo cuando se abordan temas relacionados con la dimensión ética de la utilización de las tecnologías de la inteligencia artificial en diferentes ámbitos. En su libro “La sociedad de la caja negra” menciona la transparencia como un comienzo esencial para dar a los usuarios el control sobre el uso de sus datos, sin embargo, se argumenta que es complejo lograr una transparencia algorítmica total, por ejemplo, por razones económicas como la de no preferir revelar la tecnología utilizada a los competidores, así como la complejidad de compartir información técnica con usuarios no técnicos. A la luz de esto, permítame preguntarle:

¿Cómo definiría usted la transparencia en este contexto?

¿Cómo cree que la transparencia es el ingrediente más importante para garantizar la rendición de cuentas?  

¿Hasta qué punto se aborda actualmente este tema en las leyes y reglamentos conexos?

Creo que, con respecto a la transparencia, el capítulo 5 de The Black Box Society tiene un buen gráfico que muestra un espectro del momento de la transparencia y la profundidad de la misma. Así que, puedes hacer algo completamente transparente inmediatamente, o puedes esperar años y años para hacerlo sólo parcialmente transparente, y hay tantos puntos entre esos dos polos. Mi argumento con respecto al secreto comercial, una dimensión de la cuestión aquí, es que incluso si los secretos comerciales son valiosos ahora o durante unos pocos años, debe haber algún tipo de divulgación. La lección del derecho de patentes es que hay que revelar la información y que se protege el derecho de excluir a otros de su práctica.

Ahora bien, la transparencia con respecto al tiempo y el alcance se refiere al proceso. La sustancia aquí incluye la transparencia con respecto a los datos, los algoritmos y sus usos. Algunos dicen que es imposible hacer mucho con la IA y la gran transparencia de los datos una vez que los sistemas alcanzan un cierto nivel de complejidad. Pero tengo un artículo en el blog de la LSE (London School of Economics), que se llama ‘Bittersweet Mysteries of Machine Learning‘ (Misterios agridulces del aprendizaje automático), donde digo que, como mínimo, incluso en sistemas donde la gente dice “oh, es completamente inexplicable o no tengo ni idea de cómo funciona”, es tan complejo que deberíamos ser capaces de exigir cuáles son las fuentes de datos, qué datos se introducen en el sistema y cuáles son los resultados.

Puede que haya una caja negra en el medio, pero aún así merecemos saber qué datos entran y qué inferencias o datos salen. Ahora, cuando se trata del centro de las cosas, creo que una de las cuestiones que hay es que, si estamos tratando de nuevo con algo que es tan complejo que no hay manera de describirlo narrativamente, de explicarlo en algoritmos que sean comprensibles para los seres humanos, entonces tenemos que pensar muy profundamente en todas las formas en que no queremos permitir que ese tipo de IA afecte a las oportunidades de vida de los seres humanos, cómo no queremos que afecte a las clasificaciones, rankings y evaluaciones de las personas.

No queremos eso porque esencialmente tenemos leyes que establecen que ciertas formas de coleccionar datos sobre las personas (y de usar esos datos para juzgarlas) son ilegales, y si no podemos entender qué datos se usaron, o cómo se usaron, entonces no podemos saber que no violan esas leyes. Ahora tenemos tantos libros y tanta investigación sobre las diversas categorías de transparencia y aprendizaje automático que muestran los sesgos en los sistemas algorítmicos. Virginia Eubanks, Safiya Noble, Ruha Benjamin, Andrew Ferguson, Ari Ezra Waldman, Margaret Hu [y otros], hay tantos estudiosos que han expuesto estos problemas que ya no es seguro confiar en sistemas de caja negra con clasificaciones humanas controvertidas.

En cuanto a la forma en que se aborda esto actualmente, el Reglamento General de Protección de Datos (GDPR) es una de las cosas que limita la elaboración de perfiles no transparentes de diversas maneras, y en los Estados Unidos hay algunas leyes de privacidad y financieras que también protegen los derechos individuales y los valores sociales importantes en esta área. Creo que también tenemos que ir mucho más allá, porque [la respuesta aquí] requerirá ciertas formas de completar la clasificación, las calificaciones y las evaluaciones de las personas; eso es lo único que se hace sobre la base de criterios articulables. Tiene que hacerse de manera articulable para mantener nuestros estándares de equidad en el proceso. Si no se hace eso, entonces se deshace de esas normas, que están inextricablemente entrelazadas con el lenguaje como núcleo de la ley, no con los algoritmos y no con las evaluaciones computacionales.

En cuanto a la pregunta de si creo que la transparencia es el ingrediente más importante para garantizar la rendición de cuentas, no, creo que en última instancia es un ingrediente, pero que existen muchas formas de rendición de cuentas que implicarían, por ejemplo, el análisis post hoc de estos sistemas para auditar su impacto en los grupos. Además, podemos decir con razón que en ciertos casos, explicaciones más inteligibles desde el punto de vista narrativo, o normas más sencillas y transparentes (aplicadas con discreción y flexibilidad) deberían sustituir el aprendizaje automático, la IA o los algoritmos.  También creo que en términos de responsabilidad, los sistemas más responsables implicarían mostrar a la gente cómo funciona el mundo algorítmico, lo cual es un paso hacia la legitimidad. Pero esto siempre tiene que ser probado contra otras posibles formas no algorítmicas de ordenar esos asuntos.   

• El uso de la IA para proporcionar soluciones tecnológicas a la actual crisis de COVID-19 se ha visto en diferentes países a través de las aplicaciones de los gobiernos para el seguimiento de los casos de COVID. Estas iniciativas han sido recibidas con dudas por muchos que se preocupan principalmente por la privacidad, el acceso a los datos de los teléfonos móviles y la vigilancia gubernamental, ¿qué opina de estas aplicaciones? ¿En qué medida cree que esas reacciones de dudas y preocupaciones se justifican considerando que los mismos usuarios pueden tener otras aplicaciones que recopilan datos todo el tiempo?

¡Excelente último punto! Empezaré con el último punto para decir que, si tiene preocupaciones sobre la privacidad y la recogida de datos de las aplicaciones de seguimiento de COVID, el siguiente paso importante para articular esas preocupaciones es explicar exactamente cuál es el margen de pérdida de privacidad más allá de las leyes de privacidad ya existentes, dado que la persona implicada suele estar ya utilizando otras formas de tecnología… Por supuesto que puede haber personas que no estén usando teléfonos móviles en absoluto. Pero para aquellos que tienen este tipo de sistemas a bordo, la pérdida marginal es algo que tiene que ser calculado.

Con respecto a las aplicaciones propiamente dichas, lo que he visto es que hay lugares en los que estas aplicaciones parecen condenadas a fracasar y hay lugares en los que parecen haber desempeñado un papel en la excelente respuesta a la pandemia. Permítanme comenzar con los países exitosos. Parte de la literatura sobre Corea del Sur, en revistas en inglés y en otros lugares, indica que en la ola de la epidemia de MERS de 2016, Corea del Sur enmendó sus leyes de privacidad de manera de asegurar una rápida coordinación y recopilación de datos para informar a las autoridades coreanas sobre el lugar exacto en el que se movía todo el mundo; si acababan de entrar en el país o si estaban expuestos a alguien con un caso de COVID. Si se observa el éxito de Corea del Sur en el seguimiento de los grupos de la enfermedad, se puede comprender rápidamente dónde se ha desplazado exactamente una persona que parece ser un superpatógeno e identificar rápidamente a esas personas para ponerlas en cuarentena, apoyarlas y saber dónde estaban en esa etapa. Todas esas cosas están muy a favor de una recopilación de datos excepcionalmente amplia y exhaustiva para un propósito muy limitado, que es en la salud pública.

Y eso me sugiere que estas aplicaciones de localización de COVID podrían jugar un papel muy importante, particularmente al comienzo de las epidemias. Si llegamos a contrastar el ejemplo de Corea del Sur con la introducción de las aplicaciones de rastreo de COVID en, digamos, Europa o como en el Reino Unido en este momento, hay una clara distinción: los gobiernos de la UE, el Reino Unido y los Estados Unidos no han reunido la seria determinación y la capacidad estatal que tuvieron Corea del Sur y Taiwán. Así que en cierto sentido no merecen (tanto como los estados más capaces) tener acceso a los datos relevantes. Si fueran más competentes, las acciones podrían ser diferentes.

Mi pregunta es cómo la aplicación de localización conduciría a una mejor asignación de recursos de manera razonable en la UE, el Reino Unido y los Estados Unidos. ¡Y tengo mis dudas! Creo que hay tanta gente que tiene la enfermedad que es muy difícil imaginar que la aplicación de seguimiento sea muy efectiva para ayudarnos a entender mejor la propagación. También hay problemas en cuanto a que las personas pueden estar en un lugar, pero no pueden verse entre sí porque hay una pared entre ellas; trabajan en diferentes departamentos, pero la aplicación de rastreo informará sobre la persona que no ha sido infectada o no tiene exposición a la persona infectada debido a la ubicación en el mismo edificio. Esos son los tipos de fallos que podrían ocurrir.

También es un enorme problema de recopilación de datos, y de diferenciación. Cuando es pronto, o las cosas están bien controladas, los resultados de la recopilación de datos sólo afectan a las vidas de relativamente pocas personas (que deben estar en cuarentena). Más tarde, si estás en medio de una pandemia, de repente estás hablando de la recopilación de datos con consecuencias para miles o millones de personas, con respecto a la exposición a los COVID.  Eso arriesga un posible uso discriminatorio de los datos, y peor aún.

En general: La vigilancia de la salud pública mejorada por la IA es una buena manera de ayudar a una autoridad de salud pública competente y de rápida actuación a detener rápidamente una pandemia y cortarla de raíz. Además, la invasión de la privacidad que conlleva ese tipo de capacidad y el desencadenamiento de un seguimiento continuo de la ubicación de todos a efectos de salud pública, esa restricción de la libertad es mucho menos perjudicial para las libertades que lo que se ve que ocurre cuando una pandemia se sale de control. Me doy cuenta de que eso va a ser controvertido como modelo para el futuro del control de la pandemia, pero creo que si observas cómo lo hizo Corea, es esencial, también es esencial para la respuesta china, pero no estoy tan seguro de Vietnam o Taiwán (que dependían mucho del control de las fronteras). No obstante, observo las libertades de las que se ha disfrutado durante muchos meses en esos países (por temor a enfermedades mortales), y el pequeño sacrificio que hicieron al principio para lograrlo, y creo que en realidad son mucho más libres, en cierto sentido, que las democracias liberales que desafortunadamente “aconsejan” a los ciudadanos que se queden en casa, que se mantengan seguros, etc.

Por supuesto, al pensar comparativamente, puede haber diferentes caminos para salir de la crisis. Así que tal vez hay un camino australiano que se trata de un cierre extremadamente estricto durante un período de tiempo prolongado; entonces se podría decir que también existe el enfoque de vigilancia de alta tecnología de Corea del Sur; y en China parece haber una especie de combinación entre esos dos. Es decir, el largo cierre de las fronteras y el seguimiento muy cercano de todos. Pero creo que lo que no se puede cuestionar es que este es el momento en que los EE.UU., la UE, América del Sur y América Central realmente piensan profundamente sobre lo que hicieron bien los países exitosos, porque, ya sabes, este es un problema histórico mundial. La muerte y la enfermedad son horribles. Y sus efectos no terminarán cuando la pandemia termine (si es que termina – el manejo incompetente de la misma ha creado ahora efectivamente la oportunidad de que surjan formas mutantes, como vimos en las granjas de visones danesas, y quizás derrotar o reducir la efectividad de las vacunas). Por ejemplo, debido a la pérdida de crecimiento económico y de oportunidades en los últimos siete meses, se prevé que cada hogar estadounidense pierda (en promedio) 125.000 dólares en ganancias futuras. Y lo que no hace falta decir es el enorme sufrimiento y la pérdida de vidas.

• Hoy en día, con la situación actual que se observa en todo el mundo, hay una dependencia significativamente mayor de las plataformas tecnológicas en muchos campos. Por ejemplo, vemos que plataformas como Google dominan en lo que respecta a la educación a distancia, Zoom crece para los negocios y el trabajo desde casa, y Facebook y Twitter mantienen su papel de proporcionar bocados rápidos de información y actualizaciones acentuando el capitalismo de plataforma. ¿Qué beneficios y riesgos ve en este proceso?

¡Creo que es un proceso extremadamente arriesgado! Esto le está dando un enorme poder a las compañías mayormente americanas para tener un alcance global (y también a algunas firmas chinas), y no confío en muchas de estas mega-firmas. Por el contrario, creo que las naciones de todo el mundo necesitan desarrollar más formas de soberanía tecnológica.

Además, es necesario distribuir la gobernanza. La gobernanza distribuida en la educación implica que los profesores mediarán entre la tecnología y los estudiantes, en lugar de la interacción directa de la tecnología con los estudiantes. Creo que algo muy similar debería aplicarse a las plataformas. Lo ideal sería ver, en cada país, múltiples motores de búsqueda y múltiples redes sociales (con API para la interoperabilidad, por supuesto, y el intercambio de datos para los motores de búsqueda). Espero ver eso en el horizonte porque lo que sufrimos ahora es sólo una enorme situación de concentración de poder.

También espero que veamos más rupturas de megaempresas. Por ejemplo, es ridículo que Facebook, WhatsApp e Instagram estén controladas por una sola empresa dirigida por un solo hombre con una influencia excepcional sobre su junta directiva, su gestión y sus usuarios. Es básicamente un emperador, como sugiero en mi trabajo sobre “functional sovereignty” (soberanía funcional). Es decir, en las corporaciones multinacionales, los CEOs tienen el poder de elegir a muchas personas importantes en su junta directiva a lo largo del tiempo, y se dice que la junta directiva dirige la empresa, pero si el CEO ha elegido la junta directiva y puede eliminar a las personas de la misma, entonces ¿quién está realmente a cargo? Y en estas grandes empresas de tecnología, el CEO es a menudo incluso más poderoso que el CEO corporativo promedio. Creo que con estos CEOs teniendo todo este poder, tiene que haber una mirada a la ruptura de estas empresas. Quiero decir, separar Google y YouTube, separar Facebook, WhatsApp e Instagram, hay muchas maneras de hacerlo que Lina Khan, Elizabeth Warren, Sally Hubbard, Stacy Mitchell, Tim Wu, y otros han propuesto, y creo que deberíamos.  

• El año 2016 ha sido considerado como un punto de giro que marca el comienzo de un impacto tangible de la oligarquía a través de la ingeniería y la remodelación de la esfera pública y la manipulación de la opinión pública. Por ejemplo, Brexit y las elecciones de EE.UU. fueron dos eventos que reflejaron el impacto de Facebook en la política. Después de los escándalos de invasión de la privacidad de los usuarios y los intentos de regular tales plataformas, con el actual escenario de las elecciones de los EE.UU., ¿hasta dónde ve usted progresos en ese sentido?

Creo que estas plataformas están tratando de parecer ocupadas, pero creo que han hecho muy pocas [acciones] significativas en el control de intervenciones altamente sospechosas, tanto por parte de populistas autoritarios, nacionalistas, partidos políticos de supremacía blanca como por agentes extranjeros que los apoyan y que generalmente siembran el caos, ¡y creo que esto es muy problemático! [Tales ejemplos representan] desafíos fundamentales a la idea de la autorregulación de estas plataformas. Como usted observa, hay algunas preocupaciones sobre la libertad de expresión, sin embargo, se trata de empresas privadas que utilizan las leyes de libre expresión para limitar la capacidad del gobierno de regularlas. Por lo tanto, tienen que asumir esa función reguladora para regir su propia expresión, o tienen que permitir que los reguladores gubernamentales asuman esa función (admitiendo que son empresas de transporte común). Hacer ninguna de las dos cosas es una receta para el caos y el descenso al autoritarismo (incluyendo las mentiras increíblemente dañinas que ahora difunde Trump sobre las elecciones en los Estados Unidos).

Espero que en el futuro veamos muchas más intervenciones de los gobiernos para mantener la integridad de las elecciones porque creo que hay enormes problemas con el hecho de que el Presidente de los Estados Unidos, el Presidente Trump, simplemente miente abiertamente y muchos de sus seguidores, varios en el partido republicano hacen lo mismo. Los ejemplos alrededor del mundo proliferan, tengo numerosos ejemplos en el capítulo 4 de mi libro New Laws of Robotics acerca de los medios automatizados. Creo que [esta situación es] increíblemente preocupante y que necesitamos ver a los gobiernos comenzar a imponer normas básicas de veracidad y decencia en las leyes contra el discurso del odio en estas plataformas.

Y si no lo hacen, mi predicción es que el gobierno será tomado por la gente que usa esos trucos baratos de atracción política para apoderarse de la democracia. En otras palabras: o controlamos democráticamente la esfera pública, o permitimos que sea subvertida por demagogos que la controlarán de forma autoritaria.

Quiero decir, hemos visto que con respecto a los líderes autoritarios en todo el mundo, hay muchos ejemplos. Creo que el problema sólo se agrava hasta que haya gobiernos progresistas con alguna noción de juego limpio y decencia en cuanto a los llamamientos políticos, que intervengan enérgicamente para garantizar una esfera pública que sea verdaderamente respetuosa de la libertad de todos los ciudadanos y que no vaya a presentar los horrores de los esfuerzos por aterrorizar, dañar, estigmatizar sin fundamento o difundir mentiras sobre determinados partidos políticos, grupos étnicos minoritarios y otros grupos vulnerables. Mary Ann Franks, Carrie Goldberg, Danielle Citron, y K-Sue Park son brillantes en este frente – son líderes intelectuales de un movimiento para una mejor esfera pública.

Creo que con eso tenemos que pensar profundamente en este tipo de cuestiones, y creo que realmente tenemos que reformular las cosas debido a la facilidad con que los medios sociales permiten que se difundan mentiras completas, fabricaciones completas. Estamos aprendiendo más y más desde el 2016, aprendemos más y más sobre los requisitos previos a la democracia. Necesitamos tener una población informada, no una que esté continuamente expuesta a las mentiras, la desinformación, la propaganda.

• ¿Cuáles son los principales desafíos que se interponen en el camino de la regulación de las plataformas y la regulación algorítmica? ¿Y cómo ve el futuro progreso en esta área?

Creo que el principal problema en esta área es que no se aprecia lo suficiente que la gobernabilidad ocurre. No es que podamos decir que vamos a desregular completamente las plataformas y no tener ninguna interferencia del gobierno en ellas, que entonces no hay gobernanza, y que prevalece la libertad completa. De hecho, la gobernanza sucederá, y la buena gobernanza es necesaria para la libertad.

También debemos reconocer que las personas sienten a menudo objetivamente la necesidad de estar en la plataforma y por lo tanto no tienen la opción de estar en ella o no. En esos entornos, la capacidad de los profesionales para intervenir y establecer algunas reglas es crucial. No estamos liberando a las personas al mantener al gobierno fuera. De hecho a menudo no estamos liberándolos para ser manipulados o marginados por una plataforma.

Sé que hay un contra-argumento fácil aquí, que sería, “usted acaba de llamar a ciertos líderes como autoritarios y ahora quiere que los gobiernos pongan reglas en mi vida, ¿qué pasa? ¡Quieres que los autoritarios hagan eso!” Mi respuesta es decir que, no, no quiero que los autoritarios hagan eso, pero sí quiero que los países que no son autoritarios reconozcan rápidamente lo fácil que es para los autoritarios aprovechar el entorno actual de la información, los entornos de las plataformas, y evitar que ese tipo de cosas ocurran allí. Eso creo que es el tema crítico.

Con respecto a otras cuestiones de la gobernanza de las plataformas, uno de los mayores problemas es que los gobiernos son demasiado lentos para tratar de redistribuir la recompensa de las plataformas. Si se observa la cantidad de ingresos de Facebook, Google y Amazon, etc., se trata de ingresos que podrían ser fácilmente redistribuidos a las empresas que estas plataformas están exprimiendo, incluyendo muchos medios de comunicación locales. Hay muchas maneras en las que podríamos redistribuir esos fondos. Creo que debemos pensar profundamente en eso porque ahora mismo esos fondos están concentrados principalmente en las manos de los accionistas y los altos directivos de estas empresas y creo que tenemos que pensar en qué tipo de poder les da esto y cómo podemos asegurarnos de que ese nivel de poder y riqueza no sea tan grande que sobrecargue los procesos democráticos.   

La entrada Frank Pasquale y sus “Nuevas leyes de la robótica”: “Los robots no deben falsificar las características humanas. La IA no debe intensificar las carreras de armas” se publicó primero en MIL Magazine.

Movies such as I Robot or Ex Machina have featured a dystopian future of robots threatening humanity. We are now witnessing rapid massive transformations in Artificial Intelligence and its various applications in different fields. Is this threatening human obsolescence? Is the process of technology dissemination developing fairly? What about the unknown sides of data collection? What about regulating AI? How can robots truly serve humanity and to what extent? All these questions and more are addressed by Frank Pasquale who talks to AIKA about his new book “New Laws of Robotics“, AI in the age of COVID-19, AI regulation and more relevant aspects.

Frank Pasquale is an expert on the law of artificial intelligence, algorithms, and machine learning, and author of New Laws of Robotics: Defending Human Expertise in the Age of AI (Harvard University Press, 2020). His widely cited book, The Black Box Society (Harvard University Press, 2015), developed a social theory of reputation, search, and finance, and promoted pragmatic reforms to improve the information economy, including more vigorous enforcement of competition and consumer protection law. The Black Box Society has been reviewed in Science and Nature, published in several languages, and its fifth anniversary of publication has been marked with an international symposium in Big Data & Society.

Pasquale is Professor of Law at Brooklyn Law School, an Affiliate Fellow at the Yale Information Society Project, and the Minderoo High Impact Distinguished Fellow at the AI Now Institute. He is also the Chairman of the Subcommittee on Privacy, Confidentiality, and Security of the National Committee on Vital and Health Statistics at the U.S. Department of Health and Human Services.

• In your new book “New Laws of Robotics”, you highlight the importance of creating teams or “partnerships” of humans and robots in the different fields; tell us more about the importance of such partnerships, the challenges that stand in the way of their success? What are possible solutions to overcome such challenges?

Let me give some examples from the first few chapters in the book. In medicine, there’s a really interesting set of partnerships that are developing between nurses and robots. One of these is the Robear, and that is a robot designed to help nurses to lift patients, especially heavier patients, from the bed. This is a really important innovation because a lot of nurses have orthopaedic problems because they are lifting extremely heavy patients or patients that are very vulnerable and need to be lifted very carefully. The robot is designed to enable a transfer of the patient from, say a bed to another bed, or a bed to a chair without demanding excessive physical exertion from nurses. So this I think is a very good example of what I call the first new law of robotics in my book; AI and robotic systems should complement professionals and not substitute for them. It is a relatively narrow and well-defined task, the nurse is always present, and brings in the robot to assist. I think we are going to see more and more of these examples of robots particularly in routinized tasks; for example, bringing drugs around hospitals.

Now, in terms of challenges, clearly there are challenges in terms of this type of AI; is it too costly? Does it get in the way? Can we include more and more tasks in a robot like Robear? There are going to be really interesting questions for the future. Some AI developers want to develop very extensive AI systems that are not just doing manual tasks but are also taking on roles like care, trying to offer something like empathy or to look empathetic. So you can imagine a robot that tries to look sad when a patient is in pain or look happy when a patient, say, takes a few steps beyond what they normally would.

That’s the situation where I think that the robot has gone beyond complementing a professional to substituting for them, and more importantly from my book’s perspective counterfeiting humanity: the robot is faking feeling. What I mean by that is the robot is mimicking human emotions, even though robots can’t actually feel human emotions. That is disservice to patients and to nurses, who as professionals are trained in terms of how to expressively connect with patients, and empathize with patients. Persons can authentically do that because they have experienced pain and disappointments of their own lives, and also joy and sense of accomplishment. A robot cannot do that.

So these first two laws of robots in my book are about: robots should complement professionals and not substitute for them, and that robots should not be mimicking or faking humanity. Mimicry, fakery and counterfeiting, are three terms that I use in the book and try to define very carefully because I think that the idea of counterfeiting has a resonance with the use of counterfeit money that’s appropriate here. My fear is that we have robots and AI systems that are faking human emotions and that are trying to claim our attention the way human beings can.  That’s like living in an economy where bad money drives out good, where fake money once out in circulation reduces our faith in the value of existing money. So robots or machines faking human capacity and empathy, that will diminish our valuation of genuine human empathy, or we’ll be confused about when that actually exists, and when it is mere mimicry of humans, or, worse, human mimicking the mimicking of humans.

Other sorts of partnerships could be in the military, where there are lots of robotic systems being developed. There is something called the Octoroach, which is a robot that is designed to act like a roach but it has eight legs, thus the ‘octo’ name for it. It could crawl into buildings and it could surveil things. There are drones that robotically could become autonomous, some would launch ballistic missiles once they launched a form of an autonomous killing machine. There are killer robots that automatically fire upon individuals. So, for example, in particularly contested war zones, you can have a robot, which controls a machine gun that senses someone coming via machine vision or machine hearing systems that sounds like an enemy or that looks like an enemy. Those are all examples that I think are troubling, primarily because they violate my third new law of robotics, which is that robotics and AI systems should not intensify arms races. I feel like this is a literal arms race, where once one nation has a fleet of killer autonomous drones, other countries are going to develop their own fleet of killer autonomous drones, and it sort of leads into forms of increasing investment in machinery that could have vastly destructive consequences. So, that to me is really a critical problem of AI and that is something we need to address.

The first law in the book, that a robot complements a professional, would dictate that any military robot be controlled by a person or be controllable by a person. But we also need to be sure we are in an environment where such control can be maintained. There are military futurists that worry that if we don’t join the military arms race, that becomes a threat to their ability to act fast enough to counteract an attack. From this concept was developed the idea of a push button war, and I am trying to help us to avoid that! I think that we do not want to live in a world where some great power, or an even lesser power, develops a robotic system that is so fast at attack that everyone else has to have robotic defences to countervail it …which in turn become targets for new forms of attack, etc.

So, that might be an example in response to the question of challenges that stand in the way of success of partnerships. It’s fascinating when you think about success in military context, and what is it? This was the hardest chapter to write in the book, because from the perspective of a military of a country, being successful means being so intimidating to other countries that they don’t even try to fight you. But that certainly cannot be defining success for the world! Success for the world has to refer to something that is more about multi-polarity; the idea that there are multiple poles of power in the world, not just a few countries with the power to intimidate or destroy everyone else.

• Tell us about your favourite use case when it comes to “partnering with technology”? Why do you see it as a successful example?

My laws are in favour of partnering, as opposed to substituting robotics for professionals. I think that one of the most successful examples that I see happening right now in medicine, are examples of doctors who are pattern recognizers working with Artificial Intelligence experts to avoid errors. See, the idea here is that you still have dermatologists to look at skin abnormalities, say there’s a mole on someone’s hand, that dermatologist will examine that mole and have it diagnosed as a melanoma or not based on their existing expertise and their knowledge of the medical literature. But there is sometimes this fear at the back of their mind that what if it does not look like one but it might be one; like I have 80% sense that it is not but maybe it is. Is a biopsy in order? That may be painful and inconvenient for the patient.

I think that in the future, you are going to see more and more scans being done by machine vision systems that will give people a much better sense of how likely something  is to be a cancer, to help specialists avoid errors. So that I think is a very important side of AI, that could do a lot to avoid error, and help a lot of people in dermatology, pathology, radiology; all those forms of pattern recognition, to help physicians feel confident that they won’t be sued for missing an unusual form of cancer. Just as AI is becoming much more successful in driving as a preventer of error, rather than as a driver itself. Of course, I expect that driving will eventually become totally automated, and do not expect to see the same result in medicine, precisely because it is only one information input in the professional field that needs to be understood and applied by a responsible professional.

Of course, there is the question of if the AI is also wrong! But in general, my hope is that these are going to be very powerful ways of ensuring less error in the medical system, which is good of course, because a lot of people die of medical errors. So we want to try to minimize this as much as possible. I think there was a medical report in 1998 that estimated over 90 thousands deaths in the US per year due to medical errors, and we haven’t really done that much better since then. So, the important question becomes how do we use the best technology to do better?

I also think that in education there are some good partnerships where you have robots that can teach children lessons that are not available from local teachers. And that’s particularly important when you think about younger children. For instance, imagine a family that wants its young child to learn Chinese, but doesn’t know Chinese, and neither does anyone around them. In this case you can have an interactive, entertaining, well designed robot to teach them Chinese. That’s really important as a new opportunity.

But I think that this is also going to be a situation where we don’t want to be substituting for the teachers themselves. Because personal interaction is constitutive of good teaching—there has to be a responsible person interacting with students, mediating between them and all the technology that could help or hurt, aid or parasitize, interest or distract them.

There is also a question of democracy, of maintaining diverse priorities and ways of knowing in society. Teachers are going to be teaching others subjects where they might have particular expertise or viewpoint and the ability to have a socially interactive model for all the students. But they can’t do it alone, as they certainly won’t know all the languages of the world or other things which might be more niche interests in math, arts, coding, culture, history, social sciences, etc. So, in all those areas AI and robotics can be incredible supplements, and also the teacher can stand as a quality evaluator in terms of helping students and their families know which AI is the most useful and which is less useful. So I think that’s an important example of partnerships with technology.

• In “New Laws of Robotics” book introduction, besides raising questions about making the best use of AI through “robotic and human interaction” within a regulated framework, you highlight the importance of democratizing decision making rather than leaving it in the hands of the powerful few. What do you mean by this? How can such democratization be achieved?

I am going to use the example I just used with the teaching robots; teachers and bots or AI that could be used to teach certain lessons. Imagine that we would go much further than what I just described and we encounter a society like the US with, say, 10,000 teachers in public high schools who teach American history. And then school boards say, “you know we are taxed way too much to support these 10,000 teachers of American history, so let’s just have a teaching robot that has one prescribed history course, and we are going to roll that out to all classrooms and it’s just going to be one history class for all the United States.” I think that would be a very troubling development, because I think that there are people in different schools, with different backgrounds, with different ideas about what’s important in history and what’s not, I want to see all of those people diversely teaching history throughout the country, I don’t want to have everyone receive the same version of history.

Of course you could say that we could try to program all of them into some robot that has 10,000 different types of teaching in it, but I still think that that would be missing the point of democratization because part of distributing power and expertise means that there are people who have some control over their daily life, their own part of the world. This idea of having control over some corner of life or some part of life, is one reason that so many more people support a job guarantee (or at least job-supporting government programs) than support universal basic income.

Going to work in any particular context gives you some level of control. Even when the boss is controlling, you still have a level of control or autonomy in your position and you have socialization; your socialization in the common project of the work place, as part of a larger group of workers. So, I think that that is part of the key to democratization in the future of automation policy; it’s that we want to have the ability for human beings to help govern their workplaces and govern the development of technology in them.

You see this idea in Elizabeth Anderson’s book ‘Private Government.’ She’s described the problem we have today that so many workplaces are ruled by bosses with an iron fist, you know, it’s like a dictatorship, and she says we need to democratize work places. I think she’s right about that but I also think she underestimates how, even in very controlled workplaces, there is still sort of room for autonomy. Even a night assistant manager at a drug store, for example, might have a chance to get to know other workers there, arrange the store in a certain way, try to find ways to deliver packages or otherwise accommodate a shut-in person, etc.

There are forms of feelings that one has in meaningful work, of participation in the world. It may exist only partially or imperfectly in many places. But that is also part of what the book addresses; that we should listen closely and try to understand the experiences of people in all walks of life. Moreover, law and policy can cultivate the feeling of (and reality of) participation, autonomy, and governance. When jobs include more technology, workers should have some say in how that technology is integrated and how it is designed.

• Transparency is a term that is often used when addressing topics related to the ethical dimension of using Artificial Intelligence technologies in different fields. In your book “the black box society” you mention transparency as an essential beginning towards giving users control over the use of their data, however there is an argument that it is complex to achieve full algorithmic transparency for instance for economic reasons such as not preferring to reveal the used tech to competitors as well as the complexity of sharing technical information with non-technical users. In light of this, let me ask you:

How would you define transparency in this context?

How do you believe that transparency is the most important ingredient to guarantee accountability?

How far is this area currently addressed in related laws and regulations?

I think that, with respect to transparency, chapter 5 of The Black Box Society has a good chart that shows a spectrum of the timing of transparency and the depth of transparency. So, you can make something completely transparent immediately, or you can wait years and years to only make it partially transparent—and there are so many points in between those two poles. My argument with respect to trade secrecy, one dimension of the question here, is that even if trade secrets are valuable right now or for a few years, there must be some sort of disclosure. That’s the lesson of patent law is to disclose information and your right to exclude others from practicing it is protected.

Now, transparency with respect to time and scope is about process. The substance here includes transparency with respect to the data, the algorithms and their uses. Some say that it’s impossible to do much with AI and big data transparency once systems reach a certain level of complexity. But I have a piece on the LSE (London School of Economics) blog, that’s called ‘Bittersweet Mysteries of Machine Learning‘, where I say that at a very minimum, even in systems where people say oh it’s completely unexplainable or I’ve no idea how it works it’s so complex, still, we should be able to demand what the sources of data  are, what data is being fed into the system and what are the outputs.

There may be a black box in the middle, but we still deserve to know what data is going in and what inferences or data are coming out. Now, when it comes to the centre of things, I think that one of the issues there is that, if we are again dealing with something that is so complex that there is just no way to narratively describe it, to explain it in algorithms  that are comprehensible by human beings, then we need to think very deeply about all the ways in which we do not want to allow that sort of AI to affect human beings’ life chances, how we don’t want it to affect classifications, rankings and evaluations of people.

We don’t want that because essentially we have laws that state that certain ways of gathering data about persons (and using that data to judge them) are illegal, and if we can’t understand what data was used, or how it was used, then we can’t know that it doesn’t violate those laws. We now have so many books and so much research on the various categories of transparency and machine learning that show the biases in algorithmic systems. Virginia Eubanks, Safiya Noble, Ruha Benjamin, Andrew Ferguson, Ari Ezra Waldman, Margaret Hu [and others], there are just so many scholars that have exposed these problems that it is no longer safe to trust black box systems with controversial human classifications.

In terms of how this is currently addressed, the General Data Protection Regulations (GDPR) is one thing that limits non transparent profiling in various ways, and in the US there are some privacy and financial laws that also protect individual rights and important social values in this area. I think we also have to go much further, because [the answer here] will be requiring certain ways of completing ranking, ratings, and evaluations of persons; that’s the only thing done on the basis of articulable criteria; it has to be done in an articulable way in order to maintain our standards of fairness in the process. If you don’t do that then you get rid of those standards; those standards are inextricably intertwined with language as the core of law, not algorithms and not computational evaluations.

For the question, whether I believe that transparency is the most important ingredient to guarantee accountability, no, I think that ultimately it’s an ingredient but that there are many forms of accountability out there that would involve, for example, post hoc analysis of these systems in order to audit their impact on groups. In addition, we may rightly say that in certain instances, more narratively intelligible explanations, or simpler and transparent standards (applied with discretion and flexibility) should replace machine learning, AI, or algorithms.  I also think that in terms of accountability, more accountable systems would involve showing people how the algorithmic world works, which is one step towards legitimacy. But this always has to be tested against other potential non-algorithmic ways of ordering those affairs.

• The use of AI to provide tech solutions to the current COVID-19 crisis has been witnessed in different countries through governments’ applications to track COVID cases. Such initiatives have been met with doubts from many who are mainly concerned about privacy, access to data on mobile phones and government surveillance, what do you think about these applications? How far do you believe such reactions of doubts and concerns are justified considering that the same users can have other applications which collect data all the time?

Excellent last point! I’ll start with the last point to say that, if you have concerns about privacy and data collection of COVID tracking apps, the next important step to articulate those concerns is to explain exactly what is the margin of lost privacy beyond already existing laws of privacy, given that the person involved is usually already using other forms of technology? Of course there may be persons who  are not using cell phones at all. But for those who have these sorts of systems on board, the marginal loss is something that has to be calculated.

With respect to the apps themselves, what I have seen is that there are places where these apps seem doomed to fail and there are places in which they seem to have played a role in excellent pandemic response. Let me start with the successful countries. Some of the literature on South Korea, in English language journals and other venues, indicates that in the wave of the 2016 MERS epidemic, South Korea amended its privacy laws in a way to ensure rapid coordination and collection of data to inform the Korean authorities about exactly where everyone was moving; whether they had just come into the country or who have exposure to someone with COVID case. If you look at the success of South Korea at tracking clusters of the disease from rapidly understanding exactly where a person who seems to be a super spreader has moved and to quickly identify those individuals to put them in quarantine, to support them in quarantine, to know where they were in quarantine. All of those things are way in favour of exceptionally broad and comprehensive data collection for a very narrow purpose, which is in public health.

And that to me suggests that these COVID tracking apps could play a very important role, particularly at the start of epidemics. If we come to contrast the South Korean example with introducing the COVID tracking apps in, let’s say, in Europe or as in the UK right now, there is a clear distinction: the EU/UK/US governments have not marshalled the serious resolve and state capacity that South Korea and Taiwan did. So in a sense they don’t deserve (as much as the more capable states) to have access to the relevant data. If they were more competent, the equities might be different.

My question is how would the tracking app lead to better allocation of resources in a reasonable way in the EU/UK/US? And I have my doubts! I think that there are just so many people now who have the illness that it’s very hard to imagine the tracking app being very effective at helping us to better understand the spread. There are also problems in terms of, people could be in one place, but can’t see each other because there’s a wall between them; they work in different departments, but the tracking app will inform on the person who was not infected or have no exposure to the infected person because of the location in the same building. Those are sorts of failure that could occur.

It’s also a huge data collection issue, and differential. When it’s early, or things are well controlled, the results of data collection only impinge on the lives of relatively few people (who must quarantine). Later, if you’re in the middle of a pandemic, suddenly you’re talking about collecting data with consequences for thousands or millions of people, with respect to the COVID exposure.  That risks possible discriminatory data use, and worse.

In general: AI-enhanced public health surveillance is a good way of helping a competent and rapidly acting public health authority to rapidly stop a pandemic and nip it in the bud. Moreover, the invasion of privacy entailed by that sort of capacity for and triggering of on-going location tracking of everyone  for public health purposes, that restriction of liberty is far less harmful to liberties than what you see happening when a pandemic gets out of control. I realize that that’s going to be controversial as a model for the future of pandemic control, but I think if you look at how Korea did it, it’s essential, also essential to the Chinese response, but I am not so sure about Vietnam or Taiwan (which relied a lot on border control). Nevertheless, I look at the freedoms now enjoyed for many months in those countries (from fear of deadly disease), and the small sacrifice they made at the beginning to achieve it—and I feel that they are in fact much more free in a sense than the liberal democracies haplessly “advising” citizens to stay home, stay safe, etc.

Of course, in thinking comparatively, there may be different paths out of the crisis; so maybe there’s an Australian path that’s about an extremely strict lockdown for an extended period of time, then you could say that there is also the South Korean high tech surveillance approach and in China there seems to be a sort of combination between those two, that is, the long closure of borders and the very close tracking of everyone. But, I think what is beyond question is that this is the time that the US, the EU, South America and Central America really think deeply about what did the successful countries do right, because, you know  this is a world historical problem. The death and illness are horrifying. And their effects will not end when the pandemic ends (if it ends—incompetent handling of it has now effectively created the opportunity for mutant forms, like we saw in the Danish mink farms, to arise, and perhaps defeat or reduce the effectiveness of vaccines). For example, because of the loss of economic growth and opportunity over the past just seven months, every single American household is predicted to lose (on average) $125,000 dollars in future earnings. And what goes without saying is the enormous suffering and loss of lives.

• Nowadays with the current situation witnessed by the whole world, there is significantly higher dependence on technological platforms in many fields. For example, we see platforms such as Google dominating when it comes to distant learning, Zoom rising for business and working from home, and Facebook and Twitter maintaining their role of providing quick bites of information and updates accentuating platform capitalism. What benefits and risks do you see in this process?

I think it’s an extremely risky process! This is giving enormous power to largely American companies to have global reach (and also some Chinese firms), and I don’t trust many of these mega-firms. By contrast, I think nations around the world need to develop more forms of technological sovereignty.

Also, governance needs to be distributed. Distributed governance in education involves teachers mediating between technology and students, instead of direct interaction from technology to students. I think that something very similar should be applied to platforms. I would ideally like to see, in each country, multiple search engines, and multiple social networks (with APIs for interoperability, of course, and data sharing for the search engines). I hope to see that on the horizon because what we suffer now is just an enormous situation of power concentration.

I also hope that we see more break-ups of mega-firms. For example it’s ridiculous that Facebook, WhatsApp and Instagram are controlled by a single company led by one man with exceptional influence over its board, management, and users. He’s basically an emperor, as I suggest in my work on “functional sovereignty.” I mean, in multinational corporations, CEOs have the power to choose many important people on their board over time, and the board is said to run the company but if the CEO has chosen the board and can knock people off the board, then who’s really in charge? And in these big tech firms, the CEO  is often even more powerful than the average corporate CEO. I think that with these CEOs having all this power, there has to be a look at breaking up these firms. I mean, break apart Google and YouTube, break apart Facebook, WhatsApp and Instagram, there are many ways to do this that Lina Khan, Elizabeth Warren, Sally Hubbard, Stacy Mitchell, Tim Wu, and others have proposed, and I think we should.  

• The year 2016 has been regarded as a turning point marking the beginning of a tangible impact of oligarchy through engineering and reshaping the public sphere and manipulating the public opinion. For example, Brexit and the US elections were two events that reflected the impact of Facebook on politics. After the users’ privacy invasion scandals and attempts to regulate such platforms, with the current US elections scene how far do you see progress in that sense?

I think that these platforms are trying to look busy, but I believe that they had made very few significant [actions] in controlling highly suspected interventions, both by authoritarian populist, nationalists, white supremacist political parties and by foreign agents that support them and that generally sow chaos, and I think that this is very problematic! [Such examples represent] fundamental challenges to the idea of self-regulation by these platforms. As you note, there are some concerns about free expression, however these are private companies who use free expression laws to limit the government’s ability to regulate them. So they, therefore, have to take that regulatory role to govern their own speech, or they have to allow government regulators to take on that role (by admitting they are common carriers). Doing neither is a recipe for chaos and a descent into authoritarianism (including the incredibly damaging lies now spread by Trump about US elections).

I hope that in the future we see a lot more interventions by governments to maintain the integrity of elections because I think that there are enormous problems with the fact that the President of the United States, President Trump, just outright lies and many of his followers, many in the Republican party do the same thing. Examples around the world proliferate, I have many examples on chapter 4 of my book New Laws of Robotics about automated media. I think that [this situation is] incredibly troubling and that we need to see governments start to impose basic standards of truthfulness and decency in anti-hate speech laws on these platforms.

And if they don’t, my prediction is that the government will get taken over by the people who use those cheap tricks of political appeal to take over democracy. In other words: we either democratically control the public sphere, or we allow it to be subverted by demagogues who will control it in an authoritarian way.

I mean, we’ve seen that with respect to authoritarian leaders around the world, there are so many examples. I think that the problem only gets worse until you have progressive governments with some notion of fair play and decency in terms of political appeals, strongly intervening to ensure a public sphere that is truly respectful of the liberty of all citizens and that is not going to feature the horrors of efforts to terrorize, harm, baselessly stigmatize or spread lies about certain political parties, minority ethnic groups, and other vulnerable groups. Mary Ann Franks, Carrie Goldberg, Danielle Citron, and K-Sue Park are brilliant on this front—they are intellectual leaders of a movement for a better public sphere.

 I think that with that we really have to think deeply about this type of issue, and I think that we really have to reframe things because of how easily social media enables complete lies, complete fabrications to spread. We are learning more and more since 2016, we learn more and more about the prerequisites to democracy; we need to have an informed populace, not one that is continuously being exposed to lies, disinformation, propaganda.

• What are the main challenges standing in the way of platforms and algorithmic regulation? And how do you see future progress in this area?

I think the main problem in this area is that there is not enough appreciation that governance happens. It’s not as if we can ever just say we are going to completely deregulate platforms and not having any government interference in them, that then there is no governance, and complete freedom prevails. In fact, governance will happen, and good governance is necessary to freedom.

We also must recognize that people feel often objectively a need to be on the platform and therefore they don’t have a choice to be on it or not. In those environments the ability of professionals to intervene and set some rules is crucial. We’re not freeing people by keeping government out, in fact we’re often un-freeing them to be manipulated or marginalized by a platform.

I know that there is an easy counter-argument here, which would be, “you just called out certain leaders as authoritarian and now you want governments to put rules on my life, what gives? You want authoritarians to do that!” My answer is to say that, no I don’t want authoritarians to do that but I do want  countries that are not authoritarian to quickly recognize how easy it is for authoritarians to take advantage of the current information environment, the platforms environments, and to stop that kind of thing from happening there. That I think is the critical issue.

With respect to other issues of platform governance, one of the biggest problems is that governments are too slow to try to redistribute the bounty from platforms. If you look at the amount of revenue of Facebook, Google and Amazon, etc., that is revenue that could easily be redistributed to the firms these platforms are squeezing out of business, including much local media. There are many ways in which we could redistribute such funds. I think we should think deeply about that because right now those funds are primarily concentrated in the hands of shareholders and top managers of these firms and I think that we have to think about what sort of power this gives them and how can we ensure that that level of power and wealth doesn’t get so great that it overwhelms democratic processes.   

La entrada Some of Frank Pasquale’s ‘New Laws of Robotics’: “Robots should not fake human characteristics. AI should not intensify arms races” se publicó primero en MIL Magazine.

Según Tejedor, contamos muy poco sobre la paz, nos hace falta mostrar historias que dejen de lado las guerras y el discurso del odio. En este sentido, resulta necesario crear espacios en los que se escuchen diferentes voces sobre el tema. Por ello, el próximo martes 1 de diciembre se desarrollará la IX Jornada de Comunicación, Viajes y Aventura: El Viaje a la Paz, organizada por el Gabinete de Comunicación y Educación (UAB), del que Santiago Tejedor forma parte.

En la presente entrevista conversamos con el profesor sobre el evento; la diversidad de invitados que tiene, quienes destacan en la lucha por la paz, entre ellos 5 Premios Nobel de la Paz; y, sobre todo, del objetivo que se persigue con esta jornada: forjar espacios para pensar y repensar la paz desde cada una de nuestras tribunas.

¿Por qué dedicar las Jornadas de Comunicación, Viaje y Aventura de este año a la Paz?

Quizás esta pregunta esconde la respuesta. ¿Por qué no? ¿Por qué hablamos tan poco de la paz? ¿Y por qué tanto de la guerra? Quizás deberíamos entender la importancia de contar y explicar los procesos y los caminos que llevan a la paz. O al menos entender que son elementos indisolubles. A ello se une un contexto actual marcado por la crispación, por la proliferación de los discursos del odio, por un creciente temor a otro agravado por la pandemia planetaria y una perenne asignatura pendiente que se llama paz.

“El periodismo desempeña o debería desempeñar un papel decisivo en la edificación de una sociedad crítica, aspecto crucial en el viaje a la paz”

Siempre decimos que trabajar por la paz nos compete a todos, pero, en verdad, ¿quiénes se están echando a los hombros esta tarea?

Partimos del supuesto que paz no es un sustantivo. Es un verbo. Esto es: demanda de acciones. No son suficientes las palabras. Por eso hemos querido reunir en una jornada a periodistas, activistas, escritores, líderes indígenas y 5 Premios Nobel de la Paz. Creemos que el periodismo desempeña o debería desempeñar un papel decisivo en la edificación de una sociedad crítica, aspecto crucial en el viaje a la paz. Pensamos que los activistas de diferentes tipos de movimientos y los líderes indígenas, particularmente, las mujeres son baluartes imprescindibles en este camino a la paz. Y luego están los Premios Nobel que, desde diferentes ámbitos y enfoques, han dedicado su vida a construir ese hito necesario que es la paz. 

En este sentido, ¿qué nos falta para despertar como sociedad?

Nos falta más diálogo, más cooperación y más (y mejor) comunicación. Y nos sobran motivos y recursos.

Y sobre la labor del periodismo en este punto… ¿El periodista debe ser un corresponsal de paz?

Es una de las preguntas que nos plantearemos en las jornadas y se lo preguntaremos a Rosa María Calaf y Plàcid García Planas que han cubierto todo tipo de conflictos aquí y allí. Seguramente, la guerra ha ocupado muchas más portadas y muchas más líneas que la paz. Y seguramente nos hemos olvidado de contar más y mejor que sucede en esos lugares donde, una vez terminadas las guerras, quedan personas que supuestamente viven o dicen que viven en paz.

“La idea [del “Viaje a la Paz”] es seguir apostando por un diálogo donde todos somos importantes y todos sumamos”

En este evento ustedes logran reunir a cinco Premios Nobel de la Paz, a activistas sociales, políticos, periodistas y académicos que luchan por la causa. Esto de hecho ha sido un trabajo grande…

Exacto, son en total 5 Premios Nobel. Se ha unido recientemente José Antonio Bastos de Médicos sin Fronteras, institución que fue galardonada en 1999. Ha sido, es cierto, un trabajo arduo. Pero también todos ellos se han mostrado dispuestos y entusiasmados con la idea. Y se lo agradecemos como departamento de Periodismo, como Máster de Periodismo de viajes y como universidad pública. Sin duda detrás hay un trabajo constante de un equipo humano y el apoyo de un grupo de investigación, un departamento y una facultad. En resumen, sí es trabajo. Pero es nuestro trabajo. Y nos encanta.

“El viaje a la Paz” es sin duda una jornada prometedora. De allí en adelante, ¿qué es lo que se espera lograr?

La idea es seguir en esta línea de generar espacios para pensar y repensar alrededor de aquellos asuntos que nos interpelan como periodistas y como ciudadanos. Y esos temas, por suerte, son muchos, o casi todos o todos. Desde la paz a la música, pasando por la ética y la literatura. La idea es seguir apostando por un diálogo donde todos somos importantes y todos sumamos. Nos gusta mucho la palabra “somos”. Y una metodología de tres estadios: pensar, decir y hacer. Y decíamos antes que la paz no es un sustantivo. Es un verbo.

Participa de la jornada “El Viaje a la Paz”

La IX Jornada de Comunicación, Viajes y Aventura: El Viaje a la Paz es un evento online de 12 horas (de 9 a 21 horas, España) en el que se reunirán más de una veintena de periodistas, escritores, activistas y líderes de diferentes proyectos que trabajan por la paz desde diferentes partes del mundo. Además, la jornada cuenta con la participación de cinco Premios Nobel de la Paz: Miguel Barreto, director regional del Programa Mundial de Alimentos, organización galardonada con el Premio Nobel de la Paz 2020; Juan Manuel Santos (Premio Nobel de la Paz 2016), Rigoberta Menchú Tum (Premio Nobel de la Paz 1992), Óscar Arias (Premio Nobel de la Paz 1987) y José Antonio Bastos, expresidente de Médicos Sin Fronteras, organización que recibió el premio en1999.

El Viaje a la Paz ha sido organizado por el Gabinete de Comunicación y Educación (UAB) y cuenta con el apoyo del Departamento de Periodismo y Ciencias de la Comunicación y la Facultad de Ciencias de la Comunicación de la UAB, de la Fundación Autónoma Solidaria, la Cátedra UNESCO de Alfabetización Mediática e Informacional para un periodismo de calidad, la Fundación Gabo, el proyecto Intercampus y la Asociación de las Televisiones Educativas y Culturales Iberoamericanas (ATEI).

Se trata de una jornada de acceso libre, y para participar en ella se debe llenar este formulario. Además, puedes consultar el programa completo aquí.

La entrada Santiago Tejedor: “Tenemos una perenne asignatura pendiente que se llama paz” se publicó primero en MIL Magazine.

Un ejemplo de estas es Alfa-Media, una asociación sin ánimo de lucro, conformada por expertos profesionales y académicos de los campos tecnológico, educativo, jurídico y comunicativo, cuyo principal objetivo es favorecer y colaborar en el desarrollo de iniciativas vinculadas a la alfabetización mediática. En las siguientes líneas presentamos la entrevista que AIKA realizó al presidente de Alfa-Media, Andrés Armas, en la que conversamos sobre los retos que como sociedad tenemos en este ámbito.

En el campo de la comunicación indudablemente avanzamos en tecnología, pero ¿avanzamos también en educación?

Nadie puede negar la evidencia del acelerado cambio que las TIC han propiciado en las últimas décadas en el modelo económico y social. Ya no es posible encontrar ninguna actividad que no sea susceptible de vincularse de una u otra forma con información almacenada, procesada y distribuida de manera ubicua. Pero este cambio ha tenido lugar a una velocidad tal que la destreza y habilidad de las personas en su uso, salvo una minoría, no se ha producido con la misma cadencia. Creo que ambos ritmos de progreso no van parejos.

Esto abre paso a introducir un tema relevante: la denominada “alfabetización mediática”. ¿Por qué es importante y quiénes necesitan desarrollar estas competencias mediáticas y tecnológicas?

Bueno, la diferencia de ritmo que he mencionado obliga a un considerable esfuerzo por parte de todos para que los ciudadanos puedan aprovechar de manera óptima los beneficios que se derivan de este cambio de modelo. Y también, y no es una cuestión menor, a esquivar los riesgos y amenazas que pueden derivarse de un uso malintencionado o erróneo de estas herramientas, que es lo que son al fin y al cabo.

Con este enfoque, y si consideramos que dichas herramientas son de uso universal, no cabe hablar de grupos exentos de la necesidad de capacitación. Todas las personas, cualquiera que sea su edad y ocupación, necesitan un mínimo de capacidades desarrolladas para que el uso de estos sistemas se convierta en una alianza virtuosa entre personas y tecnologías.

“Nadie se salva de la necesidad de mejorar nuestras competencias en el uso de las tecnologías”

Andrés Armas, presidente de Alfa-Media

La brecha digital es un factor determinante en este punto…

La brecha digital se comporta de manera singular, porque al contrario que en otros casos, las diferencias más marcadas no se producen por niveles de renta o hábitat, sino por edad. Los comportamientos entre jóvenes de medios urbanos o rurales en el uso de la tecnología se asemejan a la dificultad en la adaptación que las personas de edad avanzada tienen, esto con independencia de su nivel cultural o socio-económico.

Sin embargo, en ambos casos se producen elementos de singularidad, porque el uso abundante de dispositivos y aplicaciones por parte de los jóvenes, se produce en general de una manera escasamente atenta al riesgo de usos malintencionados o de violación de derechos fundamentales.

En ese sentido, nadie se salva de la necesidad de mejorar nuestras competencias en el uso de las tecnologías.

¿De quién es responsabilidad hacer posible la alfabetización mediática de los ciudadanos?

Yo creo que es una responsabilidad compartida. Las instituciones tienen un papel esencial en la regulación y supervisión además de en el proceso de capacitación, especialmente a la parte más joven de la sociedad, en su primer periodo de formación (y digo primero, porque esta revolución nos obliga a todos a una formación permanente). Pero también las compañías del ecosistema tienen una responsabilidad –que les será cada vez más demandada por todos los actores–, así como la sociedad civil, que debe reclamar esta acción y perseguir su desarrollo.

“El principal reto [de España en alfabetización mediática] es el desarrollo de procesos y legislación compatibles con el uso de tecnología y la capacitación de las personas”

Andrés Armas, presidente de Alfa-Media

¿Cómo se encuentra España en este ámbito? ¿Y en comparación con otros países?

Desde el punto de vista de las infraestructuras y equipamiento, España se encuentra en vanguardia en el uso de las TIC, aunque la situación es mejorable en entornos educativos y de la administración –con notables excepciones, como la Agencia Tributaria y otros–. El principal reto es el desarrollo de procesos y legislación compatibles con el uso de tecnología y la capacitación de las personas tanto del lado de la oferta de servicios como de los usuarios.

Alfa-Media, asociación que usted preside, ¿de qué manera colabora para hacer realidad este fin necesario?

Somos una asociación muy joven, apenas unos meses, pero ya contamos con cierto reconocimiento gracias a las trayectorias personales de nuestro equipo fundador. Nuestra intención es instrumentar acciones y medidas que mejoren el sentido crítico y las habilidades de las personas de forma que el uso de las nuevas tecnologías se desarrolle de manera informada, responsable y valiosa para los ciudadanos y la sociedad mediante la inclusión de la alfabetización mediática en la agenda pública de instituciones y agentes del sector, generando reflexión y debate y propiciando activamente iniciativas en torno a esta acuciante necesidad.

La entrada Andrés Armas: “Esta revolución nos obliga a todos a formarnos permanentemente en competencias mediáticas” se publicó primero en MIL Magazine.

Contra la desinformación y el discurso del odio, la alfabetización mediática se convierte en una solución para combatirlos. “No More Haters” tiene como objetivo llegar a 35.000 jóvenes de entre 14-29 años de edad para concienciar sobre la importancia de hablar en redes sociales desde la tolerancia, la empatía y el respeto. Eulalia Alemany nos explica en profundidad en qué consiste la iniciativa y cómo está afectando el discurso del odio en los más jóvenes: 

¿Cómo nace el proyecto “No More Haters”?

En 2019, Google.org lanza un reto a organizaciones europeas para prevenir el discurso de odio entre la población más joven en las redes sociales. El discurso del odio es un problema mundial que afecta a millones de personas, sobre todo a las más vulnerables ya sea por sus creencias religiosas o políticas, por pertenecer a minorías étnicas, por ser mujeres, homosexuales, y un largo etcétera.

Fad, en colaboración con Maldita.es, presentan #Nomorehaters con el objetivo de alcanzar a 35.000 adolescentes y jóvenes para que “rompan la cadena del odio” en sus entornos más próximos. El proyecto pretende generar en los más jóvenes discursos responsables libres de odio, basados en la inclusión y en el respeto.

#Nomorehaters parte de una investigación coordinada por el Centro Reina Sofía sobre adolescencia y juventud de la Fad, un análisis de las opiniones, percepciones y expectativas de los y las jóvenes en relación a esta problemática. A partir de las conclusiones del informe desarrollamos herramientas específicas, una app y una campaña de sensibilización, que ayudan a identificar los mensajes que contienen discurso de odio y a reflexionar sobre sus consecuencias negativas en las personas afectadas. También daremos pautas sobre cómo se puede romper esa cadena de mensajes dañinos.

El proyecto tiene como eje la creación de una app, ¿cuál será su función?

La ideación de la app se enriquecerá con los resultados del estudio. A partir del análisis de la percepción de los y las jóvenes sobre el discurso del odio, Maldita.es desarrollará una aplicación móvil, un juego online y una guía educativa que permitirá a jóvenes de entre 14 y 29 años aprender a reconocer y desmontar el discurso del odio. Se podrá jugar tanto de manera individual como colectivamente en el aula y estará disponible a partir de enero de 2021.

La app y las actividades que se puedan realizar en las aulas pretenden que los y las jóvenes tengan recursos para, no solo identificar los mensajes de discurso del odio sino para poder desmontarlos, tejer redes de apoyo y ser proactivos en romper la cadena de odio.

¿Considera que el discurso del odio puede ser un problema entre los/as jóvenes?

De los delitos de odio denunciados en España en 2019, casi la mitad de sus autores tenían menos de 26 años. El discurso del odio y los mensajes dañinos se transmiten dentro y fuera de las redes digitales. Pero el ámbito digital es especialmente protagonista ya que permite el anonimato, potencia la sensación de irrealidad y amplifica la pertenencia a un grupo determinado. Las redes sociales son el hábitat natural de los y las jóvenes (prácticamente la mayoría tiene perfiles) y se exponen diariamente a miles de mensajes. Muchos de ellos y ellas no son conscientes o han asimilado una serie de códigos dañinos y son meros transmisores de las cadenas de odio. Es de vital importancia acompañarlos y darles recursos personales para que puedan romper la cadena y ser proactivos paliando el daño que generan a personas aparentemente “anónimas”.

¿Qué consejos puede aportar para combatir el discurso del odio en las redes?

La mejor manera, que no la más fácil, es parar y reflexionar. Revisar las fuentes de los mensajes, hacer comprobaciones y medir el impacto que puede tener en los receptores. Al final se ponen el juego nuestras emociones y nuestras creencias más profundas. Revisarlas es un ejercicio que no sale solo, hay que ejercitarlo. #Nomorehaters quiere ser gimnasia para los más jóvenes, una tabla de ejercicios para parar, poner en duda nuestros propios estereotipos y prejuicios, vigilar nuestras emociones, especialmente las negativas, pensar, discernir y empatizar con el otro.

¿La alfabetización mediática en la educación de los jóvenes puede ser una ayuda para combatir el discurso del odio y las fake news?

La UNESCO afirma que “el empoderamiento de las personas a través de la alfabetización mediática e informacional (MIL) es uno de los requisitos más importantes para fomentar el acceso equitativo a la información y al conocimiento y para promover  medios de comunicación y sistemas de información libres, independientes y pluralistas”.

Internet ha permitido socializar la información y dar acceso a millones de personas. A su vez, cualquier persona puede utilizar este medio para lanzar sus mensajes independientemente de su contenido, veracidad e intencionalidad. Alfabetizarse mediática e informacionalmente es ya una competencia tan importante como la alfabetización básica, saber leer, escribir y calcular. Saber evaluar críticamente la información que nos llega es indispensable para poder identificar discursos de odio y noticias falsas. El debate, la reflexión, ese pensamiento crítico son herramientas clave para su desarrollo. #NomoreHaters aporta un banco de herramientas, análisis, app y campaña de sensibilización, para contribuir a esa necesaria alfabetización.

La entrada Eulalia Alemany: “Alfabetizarse mediática e informacionalmente es ya una competencia tan importante como la alfabetización básica» se publicó primero en MIL Magazine.

Después de más de una década de trabajo centrada en la observación de la IA y los algoritmos usados por las plataformas de social media, desde una visión que va más allá de la efectividad y la lógica-numérica para centrarse en el factor social, quien mejor que ella puede abordar el por qué las estrategias contra la desinformación empleadas desde Sillicon Valley o el fact-checking están siendo desbordadas por la imparable circulación de contenidos falsos.

A.A.: En una era de abundancia de desinformación, polarización y teorías conspiratorias discurriendo en redes sociales, ¿cuál ha sido el papel de tecnologías, como la IA, los algoritmos y la automatización en este escenario?

L.J-P.: Si partimos de las redes sociales, claro con la IA, son gestionadas de forma diferente a sus orígenes, cuando teníamos una timeline cronológica en la que se podía ver todo. Ahora rigen otros principios más oscuros y difíciles de entender, que determinan lo que veo, y están basados en factores como mi ubicación geográfica, género, preferencias o lo que ven mis amigos.

Por otro lado, en un espacio público o digital estamos expuestos a cosas de las que no tenemos control, porque es una mezcla de interacciones. Así sucede con los algoritmos de los medios sociales, que son una instancia de control social muy fuerte, pero dependen de los datos y reacciones que los usuarios producen. Por ello, la situación es complicada. Tenemos compañías que crean sistemas que no están claros y los usuarios co-creamos con nuestras interacciones.

Eso sí, los medios sociales no son el único espacio público que tenemos. Hay muchas más cosas que juegan un rol a la hora de marcar la forma que pensamos y evaluar como el entorno influye en nuestras ideas políticas. Hablamos de contextos plurifactoriales.

A.A.: Claro, las redes sociales son solo una herramienta. Hablando de esto, pienso en el mal uso que se ha dado a la IA para interferir en procesos democráticos, como las elecciones estadounidenses del 2016, o en crisis sociales como las del coronavirus ¿cuándo las nuevas tecnologías son en una amenaza para la democracia?

L.J-P.: Estamos intentando entenderlo, porque el que una persona cambié de opinión es difícil. Si vemos la historia de la propaganda, lo que tienen que hacer los regímenes fascistas para que en una sociedad la gente no se atreva a tener una opinión divergente es mucho trabajo. Por ejemplo, China a pesar de que controla todo en internet tiene muchas medidas adicionales para que las personas no perciban opiniones diferentes. La efectividad de la propaganda se relaciona con hasta que punto la gente puede ver otras opiniones, lo que determina si hay un grado de homogeneización alto. Las democracias no están basadas en la verdad, responden a las estrategias de la desinformación con pluralidad, libertad de expresión para que cada uno se forme su opinión.

Aparte, hay que analizar lo que esa información pretende a nivel discursivo. Las estrategias de la desinformación apelan a un nivel de identificación. Por eso vemos que en los medios sociales el fact-checking no ayuda en la mayoría de los perfiles de gente que ha decidido creer en hechos alternativos sino lo contrario. No se trata de convencerlos, porque se apela a su identidad y al confrontarla con hechos, pones a esa persona en un conflicto de lealtad, porque se ha adherido a una ideología y dependiendo de cuan homogeneizado es su entorno, se puede radicalizar más. Aquí, las medidas a establecerse en ese nivel son emocionales y de identidad.   

En esta situación nos falta discernir más cuáles son los objetivos de la desinformación, que tipo de perfiles reaccionan de forma positiva a esta. El punto es entender que tipo de talante tiene la desinformación y es otro el que tenemos en la actualidad.

A.A.: Plataformas como YouTube o Facebook están implementando en su estrategia contra la desinformación herramientas de IA, entre otras, pero todavía no pueden controlar este fenómeno, ¿cómo la IA puede trabajar con los perfiles que has descrito?

L.J-P.: Son temas sociales, que se solucionan con estrategias de proximidad social. No hay una solución que sirva para todo el contexto del paisaje digital y sea aplicable para todos los diferentes perfiles que tenemos ahí, porque las formas de reaccionar a la desinformación requieren contextualización, por ser cuestiones morales.

No puedes tratar a una persona confundida de la misma forma que a otra convencida que existen razas y se les debe tratar diferente. Se deben abordar estos perfiles de forma distinta y esto se hace manualmente, porque la tecnología no es capaz de entender esto. Esto significa que a siempre se va a necesitar un paquete de medidas para lo manual y tecnológico, que dependerá de la cultura en la que estamos, del ámbito político que vivimos. Entonces, las soluciones dependen del contexto, de la campaña política u otro evento.

A.A.: En ese caso, ¿la personalización se puede aplicar dentro de la estrategia para combatir la desinformación, como se hace para personalizar los contenidos?

L.J-P.: No estoy segura, porque la radicalización ya existía fuera de las redes sociales solo que ahora tenemos más visibilidad de esos extremismos. Y los medios sociales amplían eso, dan la sensación de que son más. Por otro lado, toda medida preventiva para encarar este tipo de problemas debe pensarse de forma más general y ahí constato un par de cosas.

Primero, la democracia vive de la divergencia y lo que se regula es el conflicto que va más allá de determinadas líneas rojas que hemos demarcado para la libertad de expresión. Eso significa que las medidas de prevención no deben motivar a las personas a esconderse o radicalizarse, de tal forma que se convierta en un movimiento difícil de controlar. Por eso, vemos que la jurisprudencia, que es el brazo del gobierno que contextualiza y decide que es lícito o no lo es, es importante en la contextualización, porque es difícil crear una pauta que sirva para todos.  

Luego, a nivel algorítmico estamos viendo que dentro de las estrategias de desinformación la gente radicalizada usa la estructura de Facebook, pero no se valen de sus algoritmos sino que los evitan. Usan estrategias muy antiguas como la propaganda de la Iglesia Católica, del Partido Comunista y otras, que se centran en redes de personas. Por eso, vemos que los perfiles radicalizados usan estrategias que los algoritmos no acaban de entender, porque son obviados.

Además, se confunde la personalización con la individualización, porque se sistematiza al individuo en cajones más granulares que antes. Por ejemplo, tenemos un perfil de una mujer con tantos años, que vive en una zona urbana, ha estudiado algo, tiene ciertos hábitos de consumo. Pero la naturaleza del ser humano es más fluida y lo que se está ofreciendo no es algo individualizado, sino que es más el prototipo de un individuo de una sociedad. La estadística te dice como funciona un bosque, pero no un árbol concreto. Por eso, no funciona del todo, porque son computaciones y promedios, que deben encajarse a nivel contextual y eso no lo saben hacer las máquinas.

A.A.: ¿Entonces siempre estamos detrás del conejo?

L.J-P.:  Sí (sonrisa).

A.A.: Hasta ahora el ser humano ha sido más creativo para sortear las estrategias contra la desinformación, porque manejamos mejor le semántica que los robots o la IA, ¿piensa que las máquinas están cerca de mejorar en este parte del análisis?

L.J-P.: No, porque el idioma es algo que fluye. Está en evolución constante, chistes que se convierten en virales, ambigüedades, ambivalencias, implicaciones. Todo eso son cosas que se van desarrollando conforme nuestra sociedad va evolucionando, conforme la creatividad humana cambia, manipula el lenguaje. Y lo que los sistemas de ahora hacen, como los robots del lenguaje, los chatbox, etc., es usar estadística y ver qué tipo de frases se repiten o qué tipo de combinación de palabras se repite y crear una probabilidad lingüística de que cuando sale esta palabra o verbo, pero la ambigüedad no la captan o entienden.

Cuando explico cómo funciona la IA, uso una visualización de algoritmos genéticos, de los más sofisticados, usados en la programación de coches. Esta visualización enseña lo que la máquina computa para entender cómo conducir. La máquina simula que está conduciendo el coche por todos los caminos posibles, estrellándose contra la pared una y otra vez hasta que halla el camino correcto. Si uno de nuestros hijos actuará así para hallar una puerta, pensaríamos que tiene ciertos retos cognitivos. Entonces los sistemas que tenemos ahora son extremadamente… o sea, no son inteligentes, son fuerza bruta, computan todas las posibilidades hasta encontrar el camino.

A.A.: Entonces, no le llamarías inteligencia artificial

L.J-P.: No, para nada (risas).

A.A.: ¿Qué tecnologías cree que puedan ser más peligrosas para el control de contenido tóxico si no se aplica una adecuada gobernanza y un diseño ético de algoritmos?

L.J-P.: La ética no es una cuestión de estadística. Es decir, no puedes programar para que actúe de forma ética, puedes crear un proceso en donde optimizamos a la máquina para conseguir un objetivo siendo conscientes de que con programas algorítmicos todo eso va en detrimento de los demás factores en los que podrías haber programado esa máquina y juegan un papel importante.

Es decir, si estoy optimizando para entender determinadas palabras en un idioma, por ejemplo, para el inglés británico, voy a tener que hacerlo de forma manual con el pitinglish. Debemos crear una gobernanza más multidisciplinaria, porque de momento tenemos a ingenieros, científicos del dato, lingüistas, pero también necesitamos incluir a socio lingüistas.

Por otro lado, debemos entender que la tecnología ahora presenta mucho contenido en inglés, pero no tanto en español u otros idiomas. Es decir, el 56% de los contenidos online es en inglés, según las estadísticas del World Internet del 2019. Uno debe tener en cuenta esto, porque este tipo de tecnología necesita muchos datos. Ese es otro problema para considerar en el diseño ético.

Además, se debe considerar a la sociología del lenguaje para entender a la gente que cambia las palabras o usa los vacíos lingüísticos para meter contenido, pero también debemos entender otros dialectos. Teniendo en cuenta esto yo diría que no tenemos la infraestructura para aplicar de forma adecuada esa verificación, científica y éticamente bien. Se puede usar la IA para crear un mecanismo descriptivo o identificar problemas que se nos pasan por alto, pero a nivel prescriptivo de creación de filtros, como en estos casos, no funciona por esos dos factores.

A.A.: ¿Cuál debe ser el rol de la UE y los propios gobiernos para afrontar la gobernanza de datos y el diseño ético de los algoritmos? ¿cómo observas su trabajo y qué crees que se debiera hacer?

L.J-P.: Cuando usamos la IA, al automatizar un proceso, creamos una forma de infraestructura, porque trabaja con la lógica en la que un sistema trabaja. Son procesos de alta escalabilidad, porque afectan a un montón de personas. Como sucede con una autovía que determina acceso y movilidad, es decir, se ejerce poder en una sociedad. Por ello, cuando se va a cambiar un proceso manual por uno que incluya IA, lo primero es preguntarse si es necesario generar esta dependencia y eso no suele suceder a nivel gubernamental, lo que me preocupa.

Luego, al aplicar IA en los medios sociales las reglas son diferentes a las que se aplican para otras empresas, porque estas plataformas crean infraestructura social. Y ya tenemos reglas eficientes, pero deben emplearse más. Eso significa que en la UE debemos repensar lo que hacemos a nivel jurídico.

Sería importante revisar la legislación sobre infraestructura y ver qué se puede aplicar a este tipo de compañías. Hay que cambiar el ámbito, porque lo estamos viendo a nivel individualista, de derechos fundamentales, etc., pero esta es una tecnología colectivista. Debemos hallar un equilibrio entre el individuo y la sociedad para trabajar con tecnologías como la IA.

A.A.: ¿Cuáles son los próximos proyectos de Ethical Tech Society?

L.J-P.:  En diciembre sacamos una evaluación de sistemas de recrutamiento para evaluar hasta qué punto aquellos sistemas que usan modelos como “OCEAN”, que usó Cambrigde Analítica, crean una brecha de género y discriminan de forma interseccional.

Luego, al ver que la UE y los países miembros quieren crear regulación destinada a la IA, partimos con la pregunta de cuánta regulación de la que existe se aplica a la IA. Así, nos dimos cuenta de que hay tantas leyes que es imposible hacerlo a nivel manual, porque todas las leyes que tienen algún tipo de regulación sobre la estadística o fórmula matemática a la hora de elaborar un algoritmo de scoring para saber si le das a alguien un crédito, etc., ya existen. Por eso estamos creando una máquina de búsqueda dentro del campo legal que tiene todas capacidades que las máquinas actuales no tienen y estamos usando deep learning para construirla.

La entrada Lorena Jaume-Palasí: “Los perfiles radicalizados usan la estructura de Facebook pero evaden a sus algoritmos como estrategia desinformativa” se publicó primero en MIL Magazine.

Renee Hobbs is an internationally-recognized authority on digital and media literacy education. Through community and global service and as a researcher, teacher, advocate and media professional, Hobbs has worked to advance the quality of digital and media literacy education in the United States and around the world. She is Founder and Director of the Media Education Lab, whose mission is to improve the quality of media literacy education through research and community service[i].

In this fruitful discussion with AIKA, Renee Hobbs explains to us how media literacy can be understood and applied in today’s context covering various dimensions.  Hobbs also talks to us about her recently published book ‘Mind over Media: Propaganda Education for a Digital Age‘ where she breaks down the true meaning of propaganda from a modern perspective and the role of media literacy. We also talk to Hobbs about her upcoming book ‘Media Literacy in Action‘ which is designed to help youth to have an in-depth understanding of the concepts of media literacy, empowering them through knowledge and critical skills.

[i] Biography from https://mediaeducationlab.com/

La entrada Renee Hobbs: “Whether propaganda is beneficial or harmful is in the eye of the beholder” se publicó primero en MIL Magazine.

Aralynn Abare McMane, founding director of Global Youth & News Media, is based in France and has worked in about 75 countries to persuade news media to pay better attention to young people and to help them understand journalism. She has been a reporter and editor, a journalism educator and researcher, and a media development program leader. In this interview, McMane talks to us about the details and impact of the project. 

The  World Teenage Reporting Project presents an interesting proactive approach to covering stories from around the world during the pandemic. What prompted you to do this?

Three things, actually: capacity, an inspirational model and getting annoyed.

I was bugged by what seemed to be the prevailing image of teenagers and twenty-somethings as either careless beach-goers who were bringing the virus home to Grandma or powerless kids stuck at home whining about their boredom. Later they got some sympathy for missing teenage milestones, but they were still portrayed as mostly useless.

Also, I had the capacity to organize the project because I decided to postpone the 2020 Global Youth & News Media Prize competition, which I run with Jo Weir of London, to 2021.That provided some spare time to do something new (from confinement like everybody else). 

Meanwhile, in the course of writing a story about what editors of news for children were doing around the epidemic, I came across a lot of examples of testimonials from children and teenagers about how it was going for them in confinement. PBS NewsHour Student Reporting Labs did that as well but also provided tools for teenagers to go beyond their own experience and do real journalism. That made me realize what I could do as I had previously organized global youth journalism projects around interviewing inspirational people and taking over newsrooms for a day. Also, I knew that stories about helpers contributing to the solutions of a situation give hope about that situation. 

I simply combined it all. Don’t get me wrong. Testimonials about confinement are useful as is the tough news we continue to need to face about this virus, but I think it’s important to hear also, loud and clear, about how young people are contributing.

Why ask the teenage journalists to tell stories about someone else and not about their personal experience?

Doing a story about someone else is real reporting, a harder, more powerful activity that really teaches about how content created with a journalistic approach is different from other kinds of content. It takes a higher level of paying attention.  It’s also a learning exercise, as all partner organizations had professional editors or mentors on hand to help.

 Tell us about the process of recruiting teenagers to become part of the project and the role of the different partners involved to facilitate the development of the project.

It wasn’t complicated. I first contacted people around the world who I know already and who worked with teenage journalists. They were quick to join so I was reassured that the project made sense. It just grew organically from there. The partners were simply people who had direct contact with teenage reporters. I ended up working with a few teenagers myself, but the success of the operation depended fully on those editors and advisers who had fully dedicated themselves to helping young peoplelearn how to do professional reporting.

Did you have selection criteria, and how were the selected young reporters prepared; were they given training?

 My selection criteria were basically, “Yes.” All I needed to know was that teenage news organizations understood the mandate: stories about how other teenagers were making a difference. They already knew the job. I was not there to edit. I was there to amplify. I understand that this is a very different approach from a more elaborate program that would involve journalistic training because I have also done that. In this case, that was not the goal.

Why did you think it would work?

I’ve done some other global projects around news media and young people and found that both young people and their adult mentors respond well.

While at the World Association of Newspapers and News Publishers, I did a World Teenage News Takeover that encouraged newsrooms to turn over part of the news or commentary to teenagers (not a special section; the normal content), and a My Dream Interview Festival that encouraged teams to prepare interviews for adults they admired. Materials for doing both are still online and still viable, I think. 

 I have consistently found that the news staff who do that kind of work with young people are always ready to try something new, especially when it can be global and give them some fresh insights and approaches. 

What was the risk and what were the challenges you faced during the different phases of the project?

I was worried that it would be considered too hard so nobody would do it. Once I began to contact people who I knew cared both about journalism and young people, I was reassured by the enthusiastic response. Frankly, it went very smoothly from there, with me just coordinating, doing showcases of the work and social media promotion to make their stories better known. I’m especially grateful to the New York Times Learning Network, whose promotion for the project as part of their annual podcast competition yielded some great content that would never have otherwise emerged.

Besides the COVID-19 pandemic, we are also suffering from an ‘infodemic’ with the spread of false information and misleading conspiracy theories. How far do you think this project helps in promoting awareness, quality journalism and in reinforcing Media and News Literacy among youth?

I have long believed and strongly advocated the stance that doing journalism is a very powerful tool for reinforcing media and news literacy. Once you have been in the position of a reporter, having to decide what is real and verifiable enough to share with an audience, you never really look at “information” the same way. It’s not about becoming a cynic about all content. It’s about learning to always check the source of the original “information” and then look at multiple other sources, preferably primary sources, to confirm or discredit what you originally thought was true. [Learning about journalism is also reinforced by learning about the horrific price some people have paid just to do that job, but that’s another discussion.]

This project was also about validating a solutions journalism approach — looking at how covering the helpers can be useful in counteracting a stereotype and finding ways to solve the problem at hand.

Can you describe the actual impact this experience had on the participating teenagers on the different levels; personal, social, educational? Do you think such experiences help youth to cope better with challenging situations like the one we are all currently living? 

 It’s pretty standard psychology that if you can contribute during a crisis, you’ll be in better condition than people who can’t do so. I also heard from some of the advisors to the teen journalists in the project who said much the same thing. For example, Melissa Falkowski advisor at The Eagle Eye in Parkland, Florida (USA), where 17 students and staff were gunned down in 2018, was the first on board for the project. She told me that “for student journalists that are stuck at home, this project gives them something to do. In my experience with trauma, having something to do and the ability to write about stories related to the trauma you have experienced or are experiencing can be very healing.”

 Is there going to be another part for this project in the future?

This will sound contradictory, so please bear with me: In some ways, this was a unique, “unicorn” project, but I think there is potential for another edition. Rarely in human history has the whole planet experienced the same phenomenon and, at the same time, had the capacity to report about it. That was the case here. COVID-19 was everywhere. Teenagers everywhere — both journalists and protagonists — had few distractions as schools were either closed or on reduced, online schedules. That made it a truly unique time. But I think there may be a reason to do another edition. I am exploring doing it again, possibly around inspirational change makers, but this time I need a partner, and there may be a strong argument for some training. Also, I want to explore with someone a way to use the stories in the COVID-19 edition [and any further edition] as a classroom resource. Not an easy assignment.

___________________________________________________________________________________

GLOBAL YOUTH & NEWS MEDIA

> Organizes international initiatives to advance the interaction of youth and news media, most recently the World Teenage Reporting Project > COVID-19.> Awards an annual Prize in partnership with The European Journalism Center, News-Decoder, and The Google News Initiative

La entrada Teenage journalists reveal the untold stories of how their peers worldwide are making a difference during the pandemic, Aralynn McMane tells us about it se publicó primero en MIL Magazine.

Los medios de comunicación siguen reiventándose y adaptándose cada vez más a la tecnología. Poco a poco, se introducen sistemas de inteligencia artificial, así como mecanismos automatizados que ayudan a los/as periodistas. Sveriges Radio ha incorporado un algoritmo editorial que va a permitir a sus editores mejorar el tiempo y la calidad de su trabajo. Olle Zachrison nos explica cómo funciona este sistema y su implementación en la radio pública:

El uso de un algoritmo en la radio pública sueca está siendo un enfoque muy innovador. ¿Cómo valora esta experiencia?

Ha sido muy exitosa en la forma en que es un sistema que hemos podido introducir sin problemas en las salas de redacción donde se ha integrado en nuestros procesos editoriales. Creo que la clave del éxito ha sido la atención a la calidad periodística, no en las aplicaciones técnicas. Cuando calificamos nuestras noticias, el propósito principal es evocar una discusión periodística sobre la importancia y la calidad de esa pieza individual. El hecho de que estos “valores de las noticias” también alimentan el algoritmo editorial es importante, pero no es el punto principal. Creo que este enfoque nos ha ayudado internamente.

¿Hasta qué punto el sistema ha cumplido sus objetivos?

Ha cumplido los objetivos en la medida en que ahora podemos ahorrar cantidades sustanciales de tiempo cuando dejamos que el algoritmo ordene el funcionamiento en nuestros sitios web locales y en nuestras listas de reproducción de noticias locales. La edición también se ha vuelto menos arbitraria cuando todo el mundo está usando un sistema estandarizado en todas nuestras salas de redacción locales. El algoritmo ha sido ajustado y hace su trabajo dando a la audiencia una mezcla de noticias que tiene sentido y se siente cerca de lo que un sistema completamente manual produciría. Pero hay muchos desafíos por delante, como usar el algoritmo para nuestros sitios web nacionales. Esto es más complejo ya que el flujo de información es mucho mayor y las noticias llegan de muchas salas de redacción diferentes de SR.

¿Cómo pueden garantizar que las noticias sean fiables y confiables en base al algoritmo?

Esto se garantiza dejando que los editores hagan una cuidadosa evaluación editorial de cada clip de noticias. El algoritmo no funciona de forma completamente independiente, sino que debe ser alimentado por los “valores de las noticias” que nuestros experimentados editores atribuyen a cada noticia. Nada es producido por el algoritmo sin que haya pasado el escrutinio humano. Incluso si ahora dejamos que el algoritmo ordene nuestros listados locales, esa mezcla siempre es supervisada por editores humanos que pueden cambiar los parámetros si piensan que la salida se ve extraña o con defectos editoriales.

Usted ha declarado previamente que le gustaría crear e implementar búsquedas personalizadas apoyadas por la inteligencia artificial (IA). La personalización atrae y ayuda a los usuarios, pero al mismo tiempo solo se les muestra contenidos relacionados que parecen contradecir la misión de los medios de comunicación de servicio público. ¿Hasta dónde está de acuerdo y cómo puede lograrse un equilibrio en este sentido?

Creo que ese riesgo existe ciertamente en plataformas como Facebook donde la gente se encuentra con una pequeña selección de contenidos diseñados para maximizar el engagement y donde muchos contenidos no son dignos de confianza en el sentido periodístico. En el sistema SR, todo el contenido de las noticias es cuidadosamente evaluado y aprobado por los editores. Además siempre alimentaremos a todos nuestros visitantes con lo que consideramos las noticias más importantes del día. Así que el riesgo de ser alimentado sólo con un tipo de noticias o perspectivas será muy bajo. Preveemos que dejaremos que el algoritmo compile cientos, tal vez miles, de listas de noticias. Una persona puede querer tener noticias de dos de nuestras emisoras locales, además de las noticias más importantes en árabe, pero sólo deporte si es realmente importante. Todas esas combinaciones son imposibles de curar manualmente. Pero hemos establecido el sistema de manera que la mezcla que producimos siempre estará en línea con nuestra misión. También creemos que la introducción de un conjunto especial de valores de servicio público salvaguarda esto. Las historias con perspectivas únicas, con informes externos de las comunidades y con una fuerte narración de audio tienen una prominencia especial en el sistema.

¿Los algoritmos son una verdadera solución para aumentar la calidad periodística?

Los algoritmos no son un fin en sí mismos, pero en el panorama mediático actual, el público espera mucho más de nuestros servicios. El estándar en los servicios digitales domésticos es que no se alimenta a todo el mundo exactamente con el mismo contenido. Tenemos que ayudar a la gente a navegar en la avalancha de información que les llega, también en nuestras propias plataformas. La programación avanzada y los algoritmos son solo una ayuda para hacer este trabajo mejor, para ser más relevantes. Nosotros conocemos nuestro contenido y nuestros diferentes programas mucho mejor que muchos de nuestros visitantes, así que si podemos usar la potencia de los ordenadores para ayudar a la gente a descubrir noticias y espectáculos que seguramente les interesan pero que no conocen, eso es algo positivo. Aunque es importante, creo que siempre tenemos que volver a la pregunta: “¿Cómo podemos aumentar la calidad de nuestro medio de comunicación?” Y si podemos construir un sistema técnico que realmente pueda provocar un debate más fructífero sobre el contenido periodístico que producimos, entonces creo que podemos matar dos pájaros de un tiro. Trabajando en nuestro “algoritmo de servicio público”, la mera discusión sobre lo que significa ese término ha resultado muy inspiradora.

La entrada Olle Zachrison: “Tenemos que ayudar a la gente a navegar en la avalancha de información que les llega” se publicó primero en MIL Magazine.

El COVID-19 ha supuesto un cambio para gran parte del mundo. La tecnología se ha convertido en una aliada durante los meses de pandemia que ha permitido que siguiéramos conectados e incluso trabajar desde casa. Just Digital es una empresa española que ha creado un sistema de algoritmos de inteligencia artificial (IA) con el que controlar la pandemia en entornos laborales.

Mantener la distancia de seguridad y tener bien colocada la mascarilla son un aspecto esencial tanto en entornos cotidianos como laborales. Durante estos meses, empresas como Just Digital han creado diversas herramientas para poder hacer frente y controlar la pandemia, creando entornos seguros. Oshcar Vidal, CDO de Just Digital, explica cómo funciona su sistema y la importancia de utilizarlos para mejorar nuestro día a día. 

Just Digital desarrolla un sistema de algoritmos de IA para controlar la propagación del COVID-19. ¿Cómo funciona?

La base tecnológica es la visión artificial, es decir, toda la base de IA está basada en el conocimiento y la comprensión a través de las redes neuronales de lo que se está visualizando. Primero, se aplica una lógica algorítmica para saber lo que identifica y después un elemento más de transaccionalidad, para comprender el escenario y lo que está detectando el algoritmo en un escenario que está fuera de las normativas de control de seguridad frente al COVID. Tenemos el único sistema real que existe ahora mismo en el mercado que integra por completo y fue el primero. Es capaz de identificar tantas personas como estén visualizando la amplitud de la cámara. Estuvimos entrenando el algoritmo diciéndole primero que detecte la máscara, después le comentas que las máscaras no son solo azules, sino que también hay negras y de colores. Las redes neuronales van aprendiendo y con ello después controlamos posiblemente el elemento más importante desde el inicio: la distancia de seguridad. Es capaz de detectar una distancia equis para que cualquier individuo que fuera rompiendo esa distancia avisara e hiciera una gestión de alertas. Una tercera dual de aforo y conteo que sirve para saber la máxima ocupación en un edificio o en un área concreta, y el conteo del número de personas que están involucradas en la escena en la que está grabando la/s cámara/s. La cuarta es la que nosotros aportamos menos conocimiento que es la parte de temperatura. Lo que hacemos es integrarlo, pues te lo proporciona la propia cámara termográfica y cuando supera los 37,4º o 37,5º se genera una alerta integrada dentro de un ecosistema analítico y de indicadores de lo que está ocurriendo en las empresa. 

¿Qué impacto está teniendo su tecnología en las empresas con las que colaboran?

Iniciamos ofreciendo este sistema a empresas e instituciones para que corrijieran al momento y hay un sistema backoffice analítico. Pero en el fondo funciona aún más como un modelo reactivo para tener el control y conocimiento de lo que está ocurriendo en torno al riesgo laborales de COVID-19. Están apareciendo elementos de riesgo por incumplimiento o por errores de planteamientos en esa política y por tanto lo que ves son unos indicadores y una tendencia, evaluando el riesgo que tienes en tu empresa o institución de que, en el caso de que exista un caso de COVID, si esto pone en riesgo a tu compañía y, por lo tanto, aplicar elementos correctivos en base al conocimiento que has transmitido. Es imposible que un equipo de seguridad esté controlando de forma continuada 25 cámaras que están expuestas y segundo a segundo o frame a frame. Por lo tanto la única forma es que haya un dashboard que te avise, un mapa de calor que muestra dónde está ocurriendo la casuística de rotura, que puede ser más crítica o menos crítica, pero al final te evalúa dónde está, puedes evaluar por qué tipología de las normativas se está rompiendo (si es en general, distancia, mascarilla…). Por otro lado, hay que intentar ayudar a la reactivación de ciertos sectores. Tenemos una alianza muy importante, estratégica y de transformación digital con la Fira de Lleida. Estamos hablando con otras firas importantes para cómo afrontar el escenario, ya no solo con el conteo, sino en el flujo de personas, inclusive y cómo das seguridad de que estás aplicando todos los elementos importantes y con ello vas a corregir y actuar rápidamente en cualquier indicador que te esté diciendo lo contrario. 

“La época de COVID nos ha demostrado que, gracias a la tecnología, mejoramos nuestra vida”.

¿Se puede garantizar la protección de la privacidad y de los datos a través de la tecnología de reconocimiento facial?

A nivel de nuestro sistema cumplimos la RGPD e implica varios elementos: dónde está hospedada la información, qué nivel de sensibilidad (y tenemos un apartado de alto nivel de sensibilidad). En nuestro caso hacemos dos vías: una es esa imagen que se graba, lógicamente, la cara puede ser difuminada que permite no saber a quién le está ocurriendo y tenemos un modo de alerta a un empleado concreto en el caso de que el sistema y la empresa quiera identificar a una persona en base a una base de datos de imágenes concretas. Ese acceso tiene que estar aprobado por sindicatos, por empresa y por trabajadores. En China es otro mundo. Yo soy muy amigo de la tecnología y que la tecnología me ayude, no tengo un problema de que me identifiquen en todo momento dónde estoy, ya lo hace Google Maps, y estoy feliz de que me asesore y de que me indique, por eso yo le digo también que después hagan conmigo lo que quieran. En este caso, exactamente igual. Si mi reconocimiento facial es un valor añadido en la función que, corporativamente hablando, me aporta, bienvenido será. Como persona y como trabajador no tiendo a entrar en un conflicto de que me graben, solo intentar hacerlo bien. Si estuviera haciendo algo mal, no estaría mal que me grabasen también como empresario. 

Este tipo de tecnología se está implementando en más empresas cada día, ¿cree que puede ser una solución contra la pandemia?

Debería haber sido así. Tenemos un algoritmo de based learning con el que intentamos prever un porcentaje de riesgo y de actuación basado en sistema simulado. Si tú tienes un control de que realmente el índice de rotura de normativas es mínima sabes que en tu casa es imposible o tiene un mínimo riesgo de que haya podido producir un contagio. Por tanto la detección de una persona debería implicar poco alrededor, aunque después haya una implicación de que los más cercanos estén haciendo un ámbito de cuarentena. Pero sí frenaría el control del desconocimiento. Este tipo de sistemas deberían ser una ayuda. Nosotros tardamos 16 días en desarrollarlo, porque llevábamos diez meses desarrollando un sistema de riesgos laborales. Había que reorientar algunos elementos y, por tanto, había que sacar un producto vendible. 

Europa se muestra más reacia a este tipo de tecnologías que considera más intrusivas, ¿cree que se podría llegar a implantar cada vez más sin vulnerar ningún derecho con el fin de ayudar?

Para mí sí. Estamos acostumbrados a que las cámaras graben las entradas de los edificios para dar parte de seguridad. También a que en los parkings haya cámaras para que controlen la seguridad y cuando aplicas la visión artificial lo que te permite es alarmar de forma proactiva. Un equipo de seguridad para detectar en 28 cámaras que hay un robo necesita estar atento, una cámara o N cámaras analizando continuamente un parking con una posibilidad de robo en base al comportamiento tarda cero segundos en avisar y actuar y decir dónde exactamente. A mí me da igual que graben o no, porque eso no es invadir la intimidad porque haces una función de ello. Bienvenida será la aportación de valor que me genere en cada momento. Decimos que la IA es peligrosa, posiblemente, siempre que graba, pero es que la IA está en muchos más sitios. Está en mi interacción con el móvil, está cuando cojo el coche y me recomienda, pero también la IA está en el reconocimiento o en recomendación de la inteligencia artificial cognitiva, como en el caso de IBM que es capaz de darte una solución o detectar un cáncer. La gente se asusta por el desconocimiento, siempre ha sido así. Creo que tiene que haber una divulgación de lo que te proporciona y te puede beneficiar la visión artificial, depende de qué ámbitos, y por lo tanto poco a poco ir entendiendo que esto es algo que nos da valor. La época de COVID nos ha demostrado que, gracias a la tecnología, mejoramos nuestra vida. Por lo tanto, cojamos lo bueno, cohibamos la parte mala y demos vida a lo que nos va a acompañar. La inteligencia artificial nos va a permitir ser mejores y mejores humanos. Son herramientas para mejorar, al final debemos ver esa parte positiva de valor añadido e intentar que el mal uso sea el menos aplicado. 

La entrada Oshcar Vidal: “La inteligencia artificial nos va a permitir ser mejores y mejores humanos” se publicó primero en MIL Magazine.

El reto que desde el 2018 tenía la Generalitat de Cataluña era ambicioso, pretendía cubrir la brecha en el manejo de estas habilidades en su comunidad educativa. Pero llegó el Covid-19 y los plazos se acortaron dramáticamente. Lo que se haría en cinco años, ha terminado con acciones implementadas en meses y otras previstas para un plazo de tres años.

Ahora, Mar Camacho, la directora general de Innovación, Investigación y Cultura Digital, a cargo del plan para digitalizar la educación en la comunidad catalana nos cuenta cómo acortaron los plazos en plena cuarentena, qué acciones tomaron en esta etapa, cuál ha sido el estado formativo de nuestros alumnos y profesores y, en especial, como se garantiza el acceso a la educación, al menos de los más vulnerables, en un escenario de confinamiento integral en Cataluña.

AA: ¿Sobre qué ejes y qué objetivos se plantea el Plan de digitalización educativa de la Generalitat?

MC: El plan de transformación digital de la educación en Cataluña persigue capacitar digitalmente al alumnado y el profesorado. Por ese motivo, hace un par de años, se formó la Dirección General de Innovación, Investigación y Cultura Digital (DGIICD), en el marco del departamento de Educación. Este primer cambio evidencia el proyecto de digitalizar la educación a nivel de infraestructura y de impulsar las competencias digitales que deben adquirir los niños y el docente para dar respuesta a los retos sociales, educativos y de habitar en el mundo que vivimos.

Este proyecto, que se inició hace un par de años con la creación de la DGIICD, pretendía desarrollarse a lo largo de cinco años. El primer plan ya estaba articulado y pensado para arrancar en enero, pero en marzo irrumpe la pandemia y los tiempos se acortaron.

AA: ¿La formación de profesores y alumnos al igual que la dotación de equipos y conectividad son piezas claves para lograr estos objetivos, ¿cómo concretar esta meta y en qué plazos?

MC: Justamente, lo que hace la pandemia es acelerar el PEDC a tres años, porque muchas de las acciones previstas se desarrollaron en los primeros meses del confinamiento.

Por ejemplo, a finales de junio, el gobierno de Cataluña hizo una inversión millonaria de 103 millones de euros para el PEDC y tuvimos la posibilidad de comprar 300 mil ordenadores para los alumnos y cubrir todos los grados del tercero de la Educación Secundaria Obligatoria (ESO) hasta la postobligatoria, adquirir 72 mil ordenadores para todo el profesorado del sistema público y conseguir 101 mil paquetes de conectividad para el alumnado vulnerable de todo el sistema.

Estas acciones idealmente deben cubrirse para los primeros tres meses de inicio del curso. Nuestra idea es finalizar este despliegue a fin de año, porque las necesidades actuales de los centros y alumnos actualmente pasan por contar con dispositivos y conectividad.

AA: Tiene una meta muy ambiciosa, pero el coronavirus también plantea retos, considerando esto, ¿ustedes tienen un plan de emergencia por si se diera un confinamiento a un alto porcentaje de la población escolar o al cien por ciento? ¿qué contemplaría este programa?

MC: El coronavirus ha cogido desprevenidos a todos los sistemas educativos, porque la educación siempre fue entendida de manera presencial. Por otra parte, todos los centros educativos necesitaban disponer a partir de este contexto de un plan de emergencia en caso de pequeños confinamientos de 10 a 14 días. Mas, en mayores períodos de cuarentena se dispone de los dispositivos que los centros educativos ya tenían y se mantiene la compra de dispositivos de conectividad, realizada durante el confinamiento, para atender emergencias, sobre todo, para cubrir las necesidades del alumnado que sin estos recursos no puede continuar su aprendizaje.

Nuestra responsabilidad como administración consiste en garantizar que se concrete este proceso de aprendizaje bajo la modalidad que sea, ya que se de en el aula, una casa o pueblo alejado. Por tanto, en la DGEII elaboramos una lista de prioridades para atender a los colectivos más vulnerables y a los cursos que promocionan etapa, que son los bachilleratos o la postobligatoria.

Y si bien han sido atendidos durante la pandemia, no siempre se ha dado de la mejor manera, porque era muy difícil la distribución durante el Estado de Alarma. Por tanto, de las lecciones aprendidas, ahora podemos decir que ahora todos los centros educativos cuentan con un plan para atender a todo el alumnado en caso de confinamiento parcial o total.

AA: ¿Entonces en un escenario de confinamiento parcial o total, los centros educativos están habilitados para satisfacer a la población vulnerable de alumnos y docentes?

MC: Todos los dispositivos con los que se cuenta ahora mismo (cerca de 100 mil) en Cataluña cubrirían sobre todo a los grandes globos de niños y niñas, que no tienen estos equipos.

Para esto, nosotros hemos pasado encuestas y llenado formularios. Realmente, tenemos una radiografía clara y ajustada de los centros en el momento del confinamiento y del inicio de curso y sabemos en donde están los GAPS o Grupos de Actualización Permanente que impulsan la renovación formativa ^(*) y en donde hay que intervenir antes.

También contamos con la llegada de una oleada de dispositivos que se irán distribuyendo de acuerdo con una priorización para atender antes a los colectivos y las familias, porque un plan de intervención tan grande afecta a las familias. Por ello, se están desarrollando planes de sensibilización a las herramientas y la comunicación digital para mejorar la comunicación, que es clave para facilitar una buena bidireccionalidad entre las necesidades y las demandas.

AA: ¿Cómo manejarán la labor de competencia digital en los alumnos y docentes si se activa un plan de emergencia debido a un confinamiento?

MC: Durante el confinamiento hemos dado una formación extraordinaria para cubrir necesidades básicas del profesorado al inicio del confinamiento, como orientación para dar una videoconferencia u otras cuestiones técnicas que evolucionaron a pedagógicas.

Nosotros tenemos 110 mil profesores en Cataluña, entre escuela concertada y pública, y en esta última tenemos 72 mil. Tuvimos un pico de 30 mil participantes en las diferentes actividades formativas; lo que ha sido histórico, porque nunca se había conseguido un número tan alto de formación, únicamente impartida desde la DGIICD. En verano también se dio una formación específica con picos importantes de inscripción.

Después para inicio de curso, se facilitó a todos los centros educativos de Cataluña el currículo en formato digital. Desde quinto de primaria hasta cuarto de la ESO, los profesores pueden descargar los materiales de todos los cursos para llevar a cabo docencia virtual. A principio de curso, se salió con todo este bloque de contenidos digitales. Aquél que quiere lo puede descargar y usar como recurso o libro de texto. Hubo un esfuerzo muy importante de transformación pedagógica, flexibilización del currículo, apuesta por nuevas metodologías y materiales interactivos.

AA: ¿Cuántos profesores fueron capacitados digitalmente?

MC: Desde marzo hasta agosto, tuvimos 18 mil inscripciones en cursos de competencia digital, que equivale a un tercio de la población académica de Cataluña. En años anteriores, las formaciones de este tipo no superaron las seis mil durante un curso académico. Aparte, se dio formación hasta alcanzar las 33 mil inscripciones y otro tipo de capacitaciones desde las casas, entidades o movimientos de renovación pedagógica complementarias y que fueron digitalizadas.

AA: ¿Cuál es el diagnóstico que tienen sobre las competencias digitales de los profesores y alumnos en la actualidad?

MC: Más que del diagnóstico nosotros vamos al objetivo, que fue sacar una vertical de formación en competencia digital docente a tres niveles desde septiembre. Esto se ha trabajado con las universidades catalanas a un nivel más básico que es a competencia digital el nivel 1 y ya salió.

Pero, podríamos hablar de un 33% que está bien capacitado. De hecho, esto se vio los primeros días del confinamiento. Los centros que usaban entornos virtuales de aprendizaje pudieron casi no perder ningún día y dar continuidad a las clases. Por otro lado, de los 4500 centros educativos en Cataluña, 800 no disponían de estos entornos y nosotros se los implementamos.

Por tanto, estas cifras indicaban que la capacitación de este último profesorado tendría más recorrido que los que ya usaban los entornos virtuales. Aquí, hablamos de un segundo bloque de profesorado con una competencia media, que sabe usar las herramientas. Después hay un tercio del profesorado para alfabetizar (los muy reticentes y con muchas barreras aptitudinales respecto al uso de la tecnología). Sin embargo, con la pandemia estas barreras han caído porque todo el mundo tuvo que dar clases.

AA: ¿Para cuando tienen estimado alcanzar la formación de alfabetización digital de los profesores y alumnos al 100%?

MC: El 100% lo alcanzaríamos en tres años. En ese período, culminaríamos la (formación de alfabetización digital de los profesores) a nivel básico. En el caso de la competencia digital del alumnado, nuestro objetivo es que dentro de tres años, cuando nuestros niños acaben la obligatoria, cuarto de la ESO, salgan también con una competencia digital acreditada y certificada.

AA: Enfrentamos un crecimiento exponencial de la desinformación y teorías conspiratorias, ¿dentro de la digitalización ustedes están contemplando la alfabetización mediática para los alumnos y docentes?

MC: Sí, lo estamos considerando en este plan. El primer eje del plan es la competencia digital del alumno. Por tanto, dentro de este eje, va todo lo que conlleva la adquisición de las competencias blandas, pero son tan o más importantes que las del currículo. Aquí hablamos de la informatización mediática, con temas sobre cómo se hace la información, como ser críticos respecto a lo que se encuentra en las redes o medios de comunicación, ciberseguridad, etcétera. Estamos elaborando materiales conjuntamente al área de ciberseguridad de Cataluña. También, estamos haciendo mucho trabajo con los profesores, porque esto forma parte de la competencia digital docente. De hecho, un profesor debe concientizar a su alumnado de los riesgos que conlleva convivir en un mundo absolutamente digital.

Esto lo manejamos dentro de la formación de competencia digital y no como una materia aparte, porque la ley establece el currículo, que es fijo. La competencia digital es absolutamente transversal y recoge todos estos aspectos que estamos hablando.

AA: La gestión de los datos del alumnado dentro de vuestro plan es un tema que ha preocupado a algunas organizaciones, ¿Cómo disipan esas dudas ustedes?

MC: Los centros educativos deciden el entorno virtual de aprendizaje con el que va a trabajar. Para esto, tienen a su disposición orientaciones, documentación, todos los mecanismos que aseguran que si llevan a cabo las acciones tal como deben llevarse no deberían tener problemas. El Departament ha mantenido neutralidad tecnológica respecto al uso de los diferentes entornos.

El centro que nos ha pedido software libre tendrá unos ordenadores preparados para trabajar con ese aplicativo y de igual forma con los que hayan querido trabajar con Google classroom.

La política del Departament ha sido proveer a los centros con plataformas Moodle, basadas en programario libre. Por lo tanto, los aspectos que han sido objeto de críticas están cubiertos. Nosotros tenemos pautas y observamos la adecuada gestión de datos. Trabajamos con la agencia de ciberseguridad de Cataluña y tenemos a una persona responsable de la privacidad de la gestión de datos (de la comunidad educativa) en el Departament, esto se ha contemplado, porque nuestra apuesta también es garantizar que los niños y niñas se encuentren en entornos seguros.

_{(*): Los Grupos de Actualización Permanente o GAP´s nacen como parte de una iniciativa impulsada por el Consorcio para la Formación Continua, conformado por la Generalitat de Cataluña, sindicatos y organizaciones empresariales, para promover la cualificación profesional para el empleo (FPE). Bajo ese marco, los GAP´s impulsan la actualización de las acciones formativas, acorde con las necesidades del mercado.}

La entrada Mar Camacho: “En un escenario de confinamiento total, los centros educativos pueden abastecer a la población vulnerable” se publicó primero en MIL Magazine.