Erik Huesca, uno de los coordinadores del libro de ensayos Mi vecino es un robot (Debate), habló con SinEmbargo sobre qué debemos entender por Inteligencia Artificial, los mitos que hay alrededor de esta tecnología, así como los riesgos y los futuros desarrollos que hay en el horizonte.
Ciudad de México, 4 de marzo (SinEmbargo).– “Los sistemas inteligentes no son tan inteligentes, muchas veces pueden propagar incluso, la estupidez artificial o los prejuicios porque se alimentan de datos y los datos si están sesgados a una visión, va a seguir con esa visión”, advirtió Erik Huesca, físico por la UNAM, doctor en inteligencia artificial por la Universidad de California y actual presidente de la Fundación para el Conocimiento y la Cultura Digital, quien además es uno de los coordinadores del libro de ensayos Mi vecino es un robot (Debate).
El libro reúne la visión de diferentes expertos quienes evidencian cada uno de los retos que existen frente a la Inteligencia Artificial y lo hacen desde una óptica que toca a la realidad mexicana. Los diferentes textos ahondan en qué es la Inteligencia artificial, sus principales mitos y áreas de oportunidad. Para ello la obra se divide en tres secciones: ¿Quién es el vecino? ¿Qué hace el vecino?¿Cómo convivir con el vecino?.
“La obra se concibió justamente con estas tres partes, quién es mi vecino, o sea, qué son los sistemas inteligentes; de dónde se alimenta, cómo come, cómo toma agua, por decirlo así”, platicó Huesca en entrevista.
“Luego ¿qué es lo que hace el vecino, dónde está mi vecino hoy? pues mi vecino está en cosas muy específicas, está en la salud, está en los problemas de economía, está en los autos autónomos, está en el cambio de las ciudades, y su modelado, y su vigilancia”, precisó. Y la tercera cuestión, señaló uno de los coordinadores de esta obra, responde a “qué ética tienen (estos vecinos), cómo hay que legislarlos, y qué futuros posibles nos esperan”.
Junto a Erik Huesca los otros dos coordinadores de Mi vecino es un robot son Paola Cicero, licenciada en Derecho por el ITAM y Maestra en Estudios Legales Internacionales por la New York University, y quien desde 2017 es directora general en el Instituto Federal de Telecomunicaciones. También está Javier Juárez Mojica, Comisionado del Instituto Federal de Telecomunicaciones desde octubre de 2016, quien es Ingeniero en Electrónica y Comunicaciones en el Instituto Tecnológico y de Estudios Superiores de Monterrey, y maestro en Tecnologías de la Información y Administración, en el ITAM, así como maestro con Especialidad en Redes y Sistemas de Información para las Empresas, otorgado por la Escuela Nacional Superior de Telecomunicaciones de Bretaña, en Francia.
En la plática con SinEmbargo, Huesca planteó cómo el algoritmo de los “sistemas inteligentes” no tiene conciencia de lo que aprende como sí la tenemos los seres humanos, ante lo cual señaló que debemos dejar de un lado la idea de que estos sistemas no se equivocan.
“Nuestra sociedad en pleno trae una creencia suprema sobre la supremacía de la infalibilidad de la máquina, y con inteligencia artificial todavía más. ‘Oye, es más inteligente que yo’, espérame, no, no lo es, sabe a lo mejor mucho de algo, de un tema, porque para eso tenemos las computadoras, para eso nacieron, para recopilar información, esos datos, ese nuevo petróleo y encontrar patrones que sí los podemos encontrar nosotros”, puntualizó.
***
—¿Cómo entender la inteligencia artificial fuera de la ciencia ficción?
—Tenemos que distinguir dos cosas: la inteligencia artificial general, que es la que está más en los relatos de ciencia ficción, estos super humanoides que deciden, toman y hasta toman el control de nuestras vidas y la inteligencia artificial específica que se va desarrollando para aprender a entender cierta parte de nuestro conocimiento cotidiano, esa es la manera, digamos, llana de las dos diferencias de inteligencia artificial: la general y la específica.
Tomando en cuenta que esto está basado sobre computadoras, si bien le pusimos robot al libro, porque es parte, ahí pecamos de propagar un mito de que los robots son inteligentes, lo que queríamos era llamar la atención en los sistemas inteligentes, normalmente los sistemas inteligentes que ahorita nos llaman mucho la atención y son nuestros vecinos, son generalmente no robots humanoides sino son un conjunto de servidores y máquinas de cuartos y cuartos de servidores que pueden estar interactuando y recopilando la huella digital que vamos dejando día a día en nuestro actuar en las redes.
—¿Puedes platicarnos de estas tres partes en las que se divide el libro: quién es el vecino, qué es el vecino y cómo convivir con el vecino?
—La obra se concibió justamente con estas tres partes, quién es mi vecino, o sea, qué son los sistemas inteligentes; de dónde se alimenta, cómo come, cómo toma agua, por decirlo así, pues son de los datos y que de alguna manera los datos son como el nuevo petróleo, de hecho un capítulo se llama así, el nuevo petróleo porque es donde nosotros estamos dejando nuestra huella y este capítulo también nos llevaría a otra reflexión qué es la privacidad y que es la intimidad en un futuro con generaciones, como los que nos gustan las redes.
Vamos dejando de manera voluntaria nuestra información más íntima y, vuelvo a repetir, cada vez que un sistema me dice que es gratuito, la mercancía somos nosotros, no hay de otra, somos nosotros la mercancía y nos vendemos sin querer por tener un sistema que alimente nuestro ego, o tener correo electrónico o aumentar nuestras posiciones políticas, lo que sea, hasta comentar lo que comí el día de ayer, y si me hizo daño.
Esa es la primera parte, cómo distinguir dónde están estos sistemas inteligentes, luego ¿qué es lo que hace el vecino, dónde está mi vecino hoy? pues mi vecino está en cosas muy específicas, está en la salud, está en los problemas de economía, está en los autos autónomos, está en el cambio de las ciudades, y su modelado, y su vigilancia, incluso como la parte de ciudadanía, está en algo muy importante que es la comunicación, el periodismo, qué va a pasar con el periodismo.
Y luego viene lo que realmente es toral, no porque lo otro no lo sea en el libro, qué ética tienen, cómo hay que legislarlos, y qué futuros posibles nos esperan, qué pasa cuando mi vecino es un voyeur exacerbado que me está vigilando todo el tiempo para escucharme y de repente decir ‘estuviste platicando sobre periodismo, mira, ahí te van cinco libros nuevos que acaban de salir sobre periodismo digital’ y yo ni siquiera traía en la mira que había cinco libros de periodismo digital pero alguien escuchó y alguien me lo recomendó, el punto, y aquí es también importante, es, y es lo que quiere transmitir el libro, que los sistemas inteligentes no son tan inteligentes, muchas veces pueden propagar incluso, la estupidez artificial o los prejuicios porque se alimentan de datos y los datos si están sesgados a una visión, va a seguir con esa visión.
El algoritmo no tiene conciencia de lo que aprende, como los seres humanos que tenemos consciencia de lo que aprendemos y de repente, en un momento dado, podemos decir ‘a ver, espérame esto no va por ahí, esto se está pareciendo mucho a esta ideología y yo no soy de esa ideología. A ver cómo puedo recomponer mi cabeza con lo que estoy aprendiendo’. El deep learning de los sistemas es cómo voy aprendiendo más de lo mismo, bajo la misma óptica, así como caballito de pica, como se decía antes, pero no es capaz de tener una consciencia de decir que lo que está aprendiendo no es lo que se está buscando o adecuado a los cambios sociales actuales, esa es una.
Luego, la otra es cuando es atinado funciona bien, perfecto, pero cuando se desatina con esta tontería artificial y comete algún error grave, como por ejemplo, una vida humana, un mal diagnóstico, porque desde 1970 para acá, la visión, desde que llegaron las computadoras es que son infalibles, que no se equivocan. Es decir, nuestra sociedad en pleno trae una creencia suprema sobre la supremacía de la infalibilidad de la máquina, y con inteligencia artificial todavía más. ‘Oye, es más inteligente que yo’, espérame, no, no lo es, sabe a lo mejor mucho de algo, de un tema, porque para eso tenemos las computadoras, para eso nacieron, para recopilar información, esos datos, ese nuevo petróleo y encontrar patrones que sí los podemos encontrar nosotros, pero a lo mejor nos podría llevar cuatro años y a la máquina le puede llevar un año o un mes, pero tampoco hablar de que es instantánea como ahora está de moda este chat que hace de todo, hace de todo ‘uy, es creativo’ no, es un buen copista porque tiene información.
—¿Hemos sido entonces, a lo largo de estos años, los conejillos de indias que han permitido el desarrollo de estas inteligencias artificiales que tenemos ahora?
—Definitivamente la respuesta es sí, digamos que a partir de la Internet de finales de los 80, que se hizo masiva en nuestro país y en muchos lados, nosotros empezamos a dejar huella y empezó a haber esfuerzos, para lo que no estaba digital convertirlo en digital. O sea, nos volvimos un mundo digital y empezamos a tener mucha información al respecto. Hoy tengo sistemas que puedan rastrear mi linaje porque alguna organización le interesa mucho los linajes, le metió mucho dinero y están capturado todos nuestros archivos de registro civil y eclesiásticos de México y pueden rastrearte hasta el año 1500.
Ya cuando son muy versados en el tema como, por ejemplo, cuando tienes correos electrónicos gratuitos, para no sólo irme sobre una marca, que es nuestra favorita, nuestro saco de golpeo y siempre la mencionamos, sino todas las marcas de correos electrónicos gratuitos, están monitoreando cuales son tus intereses, qué buscas.
¿Qué podemos hacer con estos vecinos? Legislar un poco más esta parte, tener como más defensa y cambiar un poco la óptica de la legislación, porque la legislación sigue siendo de jurisprudencia y mientras sea de jurisprudencia y de lo que pasó en el pasado y cómo se resolvió en el pasado las cosas, vamos a seguir reproduciendo los vicios del pasado, ‘así se juzga, ah, es que se juzgó así, y esto es a favor’, son los argumentos de los abogados y eso se torna muy fácilmente ahora en un futuro muy cercano donde son desechables los abogados porque pones una máquina para que te revise toda la jurisprudencia porque tienes un caso igual, argumentas igual y lo ganaste, porque tienes todo a tu favor, pero fue bajo la óptica y bajo ciertos prejuicios, si podemos decirlo así, sociales del pasado. Tenemos muchos retos de convivencia ahí.
—Hay un interés siempre en mirar hacia adelante los desarrollos tecnológicos, ¿tú ves una fusión entre esta tecnología y, digamos, el cuerpo humano, el hombre en sí, como tipo cyborg?
—Sí, un poco más, como diría en su momento un mexicano que siempre olvidamos, que era Arturo Rosenblueth, que trabajó con Wiener a finales de los 40, en crear la idea de la cibernética, justamente, la ciencia cibernética, esta mezcla entre la parte biológica, electrónica, mecatrónica y demás. Yo pregunto muy fácil, si soy un buen capitalista, qué me es más fácil, agarrar humanos de los ocho mil millones que somos y modificarlos un poquito o ponerme a fundir, a hacer mi medida para fundir el acero, luego que sea inoxidable, que sea resistente a todo, salvo, digamos, eso va a existir en condiciones en donde hoy no podamos hacer, por ejemplo, hacer minería a dos mil metros de profundidad, donde haya materiales que queramos sacar, pues ningún humano puede llegar ahí, pero sí puede llegar hoy un aparato, ahí sí, pero porque va a tener al final del día, este aparato una rentabilidad, como ya están pensando ir a la luna con robots para hacer minería y cosas de esas. Es decir, siempre pensemos en el gran capital y en las grandes ganancias, dónde tenemos más posibilidades de obtener ganancias, si no es con nosotros mismos.
—Tú sí ves que vaya a ser la transición… ¿eso también implicará cuestiones también de ética y de legislaciones?
—Totalmente, aquí viene el problema del implante, de una serie de cosas, que pueden derivar en que controlen tus decisiones en el momento distópico, en el momento utópico si tú tienes alguna disautonomía motriz, o algo, causada por una enfermedad, a lo mejor pueden ayudarte, otra vez lo que quisiera como no cerrar esta conversación, porque es el inicio de muchas conversaciones, no conmigo sino con el país mismo y con muchos especialistas que habría que traer, es la idea de que no perdamos y no caigamos en el estado digital en el que estamos hoy de unos y ceros, hoy nuestra mentalidad está muy digital, o eres conmigo o eres contra mí, o esto, o blanco o negro, estamos muy unos y ceros, y nuestra riqueza humana es esa lógica difusa capaz de ver grises, muy grises, muy negros, grises muy blancos, blancos y poder tomar decisiones más difusas que decisiones digitales.
