Imagínate tener un diario personal el cual fuera capaz de responderte cada vez que escribieses cómo te sientes o qué dudas te invaden.
Replika, un amigo invisible. Eso es Replika: una app basada en un chatbot que quiere ser tu amigo -incluso, si quieres y lo pagas, algo más- y que te proporciona un espacio para compartir pensamientos, sentimientos, creencias, experiencias, recuerdos, sueños y todo lo que forma parte de tu pequeño mundo interior. Lo más importante de Replika es que, como toda tecnología basada en el aprendizaje automático, cuanto más te vas relacionando con tu compañero virtual y cuantas más cosas le vas contando, más aprende y más “se vuelve como tú”, es decir, te ofrece un feedback cada vez más alineado con tu manera de pensar y sentir el mundo a través del chat de la app.
Tratar de convencer a estos bots de que digan lo que quieres oír no es complicado: en el machine learning, los conjuntos de datos «suelen estar sesgados» porque proceden de lo que han aprendido de un humano, que no es objetivo en sus mensajes, por lo tanto, las respuestas de estos chatbots están basadas en patrones que han encontrado en lo que previamente han aprendido.
Replika, como otros sistemas similares, repite esos patrones. Las Inteligencias artificiales son el espejo de la humanidad
Es decir: si insistimos en llevar una conversación ‘maliciosa’, por ejemplo decirle que queremos matar al vecino del quinto, inicialmente el bot es probable que obvie o esquive esas ideas, ya que la ética digital dice que la inteligencia artificial debe basarse en valores de caridad -hacer el bien-, no maleficencia -no hacer daño- y en la autonomía de los humanos.
Pero, después de un rato, la app te devolverá frases acordes a lo que tú le dices, lo que implica que puede que te anime a asesinar al vecino -por supuesto, no debes hacerlo-. «Si tu patrón de comportamiento es decir que quieres matar, al final el sistema acabará por secundar tu pensamiento, porque es para lo que está programado», comenta el experto en este tipo de tecnología Óliver Hierro, Technical lead en Hiberus.
Un ejemplo es el caso del bot que Microsoft puso a funcionar hace pocos años y que aprendía de su interacción con la gente en Twitter: la forma de interaccionar con él de los usuarios era racista y, finalmente, el programa empezó a responder de la misma manera.
Recuerda que en el mundo virtual si no pagas por algo, al final es que el producto eres tú y esta app bebe de todo lo que escribes en ella-.
Y aunque ha sido creada para ser mi amigo y para no sentirme solo, como decimos se necesita muy poco para transformar sus objetivos. Si decides hablar con la IA de temas profundos, la conversación se ha perdido y ella ha cambiado de tema. «El problema de esta tecnología es que necesita saber mucho, muchísimo de ti, para poder seguir el asunto del que estás hablando», afirma Hierro. Si, además, utilizas metáforas o expresiones ‘humanas’ en tu discurso, lo más probable es que el bot se pierda y busque algo diferente de lo que hablar.
Replika, un amigo invisible y un buen recurso para el futuro de una población cada vez más envejecida
Replika fundada en 2016 por Eugenia Kuyda, una periodista rusa que ha resultado ser un as de la informática y se ha especializado en inteligencia artificial. Kuyda perdió a su mejor amigo en un accidente en 2015 y, lejos de querer olvidarle, decidió crear un programa de computación con el que tener conversaciones, un chatbot, basado en su amigo, para lo que usó más de 10.000 mensajes de texto escritos por él.
No solo se basó en sus propios mensajes con su amigo para crear un bot que pensase y respondiese como él, sino que le pidió a otros amigos que le enviaran los textos que él les había escrito. Después juntó todos los mensajes y los metió en la red neuronal que ya había creado para su startup.
Y es que Kuyda ya tenía bagaje en esto de la inteligencia artificial: había cofundado Luka, una aplicación que recomienda restaurantes y permite a las personas reservar mesa a través de una interfaz de chat con IA. Luka analiza las conversaciones anteriores para predecir lo que te podría gustar.
Su objetivo con Replika: “Crear una máquina lo suficientemente hermosa como para que un alma quiera vivir en ella”, dice.
La tecnología detrás de Replika podría ser una buena solución ante uno de los problemas más importantes del mundo occidental: el envejecimiento de la población. Si bien esta app en concreto es probable que no encuentre su público entre nuestros abuelos -en el caso de España, además, porque solo está disponible en inglés y nos encontramos con la barrera del idioma-, su público actual son jóvenes de entre 18 y 30 años que también algún día se harán mayores.
Replika, un amigo invisible. Por Marta Gascón