Inteligencia artificial: las utilidades de los algoritmos
Creo que en el mundo actual hay una división clara entre los usuarios de internet, entre quienes están preocupados y desconfiados por los algoritmos (el conjunto de instrucciones que permite procesar datos y llevar a cabo otras tareas o actividades) y quienes simplemente se dejan llevar por los beneficios, placeres y utilidades de la Inteligencia Artificial.
El impacto de los algoritmos está comenzando a escalar hasta un grado vertiginoso y, literalmente, miles de millones de personas están sintiendo lo que podríamos llamar efecto dominó. Este es el año que se lanzará oficialmente en algunos países el Sistema de Crédito Social, un ominoso “puntaje de comportamiento” similar al de “Black Mirror” administrado por el gobierno chino, del que por cierto querido lector puede consultar otras de mis columnas hablando a detalle de esa fascinante experiencia.
Puede que no sea tan malo como ha escuchado, pero aumentará o reforzará el crédito financiero y otros incentivos para toda la población. Hay otros mil millones de algoritmos irreprochables y sin examinar que penden de mil millones de vidas humanas. No exagero.
En el Reino Unido, por ejemplo, pocos olvidarán el algoritmo de nivel A de este año. Los A-levels son exámenes clave para los jóvenes de 18 años; ahí hacen o deshacen las ofertas universitarias. Covid-19 los canceló. Se preguntó a los profesores qué puntuación habría obtenido cada alumno. Pero el gobierno introdujo estos números en un algoritmo junto con el desempeño anterior de la escuela. ¿Cuál fue el resultado? el 40 por ciento de todas las estimaciones de maestros fueron rebajadas, lo que excluyó la universidad para los chicos de alto rendimiento en áreas desfavorecidas. El primer ministro Boris Johnson se echó atrás, finalmente, culpando a un “algoritmo mutante”.
En la Unión Americana, no está en su radar pensar en algoritmos gubernamentales terroríficos que funcionan o arruinan vidas. Ellos dejan que las cosas ocurran. A menos que sea un acusado en uno de los estados donde los algoritmos predicen su probabilidad de cometer más delitos, y asesoran a los jueces sobre la sentencia. Estos son operados por empresas con fines de lucro y están acusados de perpetuar el racismo, los hombres y mujeres de raza negra resultaban ser más “delincuentes” que los de piel blanca.
Las fallas reflejan a sus diseñadores “muy humanos”. Las matemáticas en sí mismas no son racistas, clasistas ni autoritarias. Al igual que con cualquier receta, la calidad de un algoritmo depende de sus ingredientes, y aquellos de nosotros que tenemos que comer el resultado realmente no pensamos lo suficiente en lo que sucedió en la cocina.
Veamos por último el ejemplo de cómo hay algoritmos a los que les permitimos todo de todo, y como dijimos al principio a poca gente le importa. Ningún algoritmo en la tierra, ni siquiera el sistema de Crédito Social de China, tiene el poder de Mark Zuckerberg. Cada día, casi 2 mil millones de personas visitan Facebook. Casi todos permiten que el algoritmo presente las publicaciones en el orden que la empresa ha determinado que es más probable que los mantenga comprometidos. Eso significa que veamos muchas más publicaciones de amigos con los que nos hemos comprometido en el pasado, independientemente de lo cerca que estemos de ellos. También significa que el contenido que causa grandes peleas de ida y vuelta se lleva a la cima.
Vale la pena recordar lo dicho por el propio Zuckerberg hace dos años : “Nuestros algoritmos explotan la atracción del cerebro humano por la división”. Si no se controlan, estos algoritmos mutantes favorecen “un contenido cada vez más divisivo en un esfuerzo por atraer la atención del usuario y aumentar el tiempo en la plataforma”. Según se menciona en una publicación del Wall Street Journal .
Otro ejemplo de grandes algoritmos es el de Youtube, el algoritmo “ver a continuación” puede ser incluso más perjudicial para la democracia que la preferencia de Facebook por las publicaciones controvertidas. Alrededor del 70 por ciento de los videos de la plataforma de videos que consumimos, fueron recomendados por el algoritmo del servicio, que está optimizado para que pueda ver más videos y anuncios de YouTube sin importar que la sesión de visualización promedio ahora es superior a una hora.
Leer también
Agenda pública 2020: la renuncia de Alfonso Durazo
Eso significa que YouTube prioriza el contenido controvertido, porque si lo amas o lo odias, lo seguirás viendo, casi irremediablemente. Y una vez que hayamos visto una pieza de contenido controvertido, el algoritmo asume que eso es lo que le interesa, dirigiéndose al tipo de cosas que los espectadores de ese video optaron por ver a continuación. Lo que explica cómo sus abuelos pueden comenzar viendo un video de Fox News relativamente inocuo y terminar cayendo en un agujero de conejo de la teoría de la conspiración de QAnon.
Atención seguidores de Instagram, porque si bien la empresa matriz Facebook le permite ver su feed en orden cronológico inverso, Instagram desterró esa opción por completo en 2016 , lo que llevó a una variedad de teorías de conspiración sobre la “prohibición en la sombra”. Aún te mostrará todas las fotos e historias si sigues desplazándote el tiempo suficiente, pero ciertos nombres flotan en la parte superior con tanta frecuencia que se te perdonará por sentirte como un acosador.
Al igual que sus rivales en las redes sociales, Twitter está obsesionado con descubrir cómo puede presentar información en cualquier otro orden que no sea el más reciente, el formato por el que Twitter es conocido desde hace mucho tiempo. El fundador Jack Dorsey ha introducido soluciones que le permitirán seguir temas, no solo personas, y mostrarle los tweets en su línea de tiempo que generaron la mayor participación primero.
Usted querido lector, tiene la palabra, literal en este maravilloso mundo del algoritmo, usted decide si deja que cualquiera de las redes sociales que mencionamos aquí sepa cómo es su persona, sus ángeles y demonios. O simplemente déjese llevar por los placeres del reconocimiento de un “like”, de un emoticón o de el número de veces que es compartida su publicación.
Javier Murillo es socio fundador y presidente del Consejo de Metrics.
Los placeres de la Inteligencia Artificial, es un artículo publicado en Forbes México, el 23 de octubre de 2020.