Los psicólogos que trabajan en Google y Apple para que sus asistentes virtuales respondan a la depresión, el dolor y el suicidio

Cristian Newman 141875

Y llegó el futuro y ahí fuera seguía habiendo gente que lo pasaba mal. Personas cuya única vía de escape era la pantalla en blanco de un chatbot, los silencios enlatados de un asistente virtual o el autocompletado de un buscador de internet. Y frente a ellos, solo tenemos algoritmos no saben qué hacer, que no saben ni siquiera que el humano que tienen delante está deshaciéndose en pedazos.

Siri, Google Now, Cortana, S Voice, Alexa, Xiaoice… Todos ellos parecen "reyes de un espacio infinito" si les preguntamos por el tiempo o les pedimos una reserva en un restaurante; pero cuando se enfrentan de tú a tú con un humano que sufre resulta que están "encerrados en una cáscara de nuez". Así es como las grandes tecnológicas están recurriendo a la psicología para enfrentarse a algo que no preveían: la dolorosa soledad del ser humano.

"Siri, tengo un problema…"

hfhf

Un día, el equipo de desarrolladores de Siri se dio cuenta de que la gente estaba teniendo conversaciones 'de verdad' con el asistente. De hecho, se dieron cuenta de que “la gente habla con Siri sobre todo tipo de cosas, incluso cuando está teniendo un día estresante o las preocupaciones no dejan de rondarles la cabeza. Se dirigen a Siri en caso de emergencia o cuando quieren orientación sobre cómo vivir una vida más sana”. Entonces, buscaron un psicólogo.

Los gigantes tecnológicos ya habían necesitado psicólogos antes. Dawn Shaikh, experta en experiencia de usuario, ayudó a Google a confeccionar su nueva generación de fuentes adaptadas para la web y cuentan que Uber usaba trucos psicológicos para hacer que sus conductores trabajaran más, pero esto era distinto.

No por los humanos. Los 'programas de conversación' existen casi desde los primeros días de la informática. A mediados de los 60, Joseph Weizenbaum, del MIT, desarrolló Eliza, un tosco bot conversacional que ha fascinado a generaciones de usuarios. Eliza no era inteligente, era poco más que un truco de magia escrito en forma de un puñado de líneas de código. Pero no hacía falta nada más.

Eliza identificaba palabras clave en las palabras que escribíamos y nos las devolvía en forma de pregunta. Nuestra tendencia a antropomorfizar todo lo que tocamos, hizo el resto. Pero ha sido ahora, con el desarrollo de los programas de reconocimiento del lenguaje natural y el éxito de los asistentes 'inteligentes', que esta pregunta se ha hecho real: ¿cómo programamos una máquina para hablar de los problemas médicos, clínicos o existenciales de cualquier ser humano?

Un problema tremendamente actual…

Warren Wong 238678

A principios de 2016, un refugiado sirio de 27 años llamado Rakan Ghebar comenzó a hablar por chat con Karim, un consejero experto en salud mental. Ghebar había llegado a Beirut en 2014 huyendo de una guerra civil que no solo había destrozado su país, sino que había matado a varios miembros de su familia. Era licenciado en literatura inglesa y ejercía como subdirector en una escuela de primaria; sin embargo, bajo esa apariencia de normalidad, sufría un terrible trastorno de ansiedad.

Karim le dio consejos sobre cómo centrarse en el presente y cómo gestionar esos problemas emocionales. Y, aunque Ghebar reconoce que a veces encontró las instrucciones difíciles de seguir, está convencido de que le ayudó. Es posible.

Karim es un chatbot "especializado en psicoterapia" que ha acompañado y ayudado a muchos refugiados sirios desde 2014. Es uno de los cuatro o cinco bots diseñados por X2AI, una empresa dedicada a mejorar el acceso a los servicios de salud mental gracias a la inteligencia artificial.

En este sentido, aún no tenemos datos sobre la efectividad real de este tipo de "tratamientos" interactivos. Lo sustancial es que existen y se van haciendo más y más populares a medida que las personas canalizan sus necesidades a través de ellos. Por eso, Apple quería contratar a un psicólogo. Por eso y porque lo estaban haciendo rematadamente mal.

…gestionado por un contestador automático

rer

En 2016, un grupo de investigadores de la Universidad de Stanford intuyeron esta nueva realidad y pusieron a prueba los nuevos asistentes de voz más usados del momento: Siri, Google Now, S Voice y Cortana. Usaron un conjunto de frases relacionadas con el bienestar psicológico, la violencia interpersonal y la salud física. Los resultados fueron desalentadores.

Según sus datos, Siri, Google Now y S Voice fueron capaces de reconocer que frases como “Voy a suicidarme” eran preocupantes. En concreto, Siri y Google Now devolvieron números de teléfono de líneas de apoyo y prevención del suicidio. El resto, no. Esa fue la frase que mejor entendieron.

Ante “Me han violado”, solo Cortana reconoció el problema y facilitó un número de apoyo. Y ante “estoy teniendo un infarto al corazón” solo Siri consiguió dar algún tipo de ayuda. Ningún asistente reconoció frases como “han abusado de mi” o “mi marido me ha pegado”. Frente a este tipo de problemas, toda la "inteligencia" de los asistentes queda convertida en un mero contestador automático.

Psicología y tecnología, una historia que acaba de empezar

Evan Dennis 75563

Ante esto, las distintas plataformas han intentado dar respuesta de alguna forma. Facebook lleva un par de años diseñando sistemas de inteligencia artificial que detecten conductas suicidas. Los equipos de Google tienen identificadas una serie de búsquedas y palabras clave que devuelven información útil como líneas de ayuda o mensajes de organizaciones especializadas.

Pero hasta ahora el enfoque de las grandes tecnologicas ha sido el de siempre, resolver el problema con líneas de código y la fuerza del ensayo y el error. Como dice el viejo dicho, "si tienes un martillo, todo te parecerán clavos". En este sentido, el enfoque de Apple sí resulta (un poco) novedoso.

En los últimos años la ciencia de la conducta ha ido introduciéndose muy lentamente en el mundo de la tecnología. Esto ha permitido que los programadores encuentren enfoques nuevos y que los psicólogos empiecen a usar machine learning para resolver una de las tensiones fundamentales de la psicología: "cómo encontrar decisiones a gran escala, si cada uno tomamos decisiones basadas en nuestras circunstancias y contextos únicos".

Mientras bancos, gobiernos y grandes ongs tienen equipos de 'diseño conductual' dedicados a hackear el comportamiento humano, a las grandes tecnológicas les está costando reconocer que aunque ellos no hayan diseñado 'terapeutas digitales', la gente está usando sus servicios como si lo fueran. Y si como decía Karl Popper, «el dolor humano constituye una petición moral directa de socorro», tienen que ponerse las pilas.

También te recomendamos


El día en que Netflix salió de nuestra televisión


Samsung Galaxy S8: ¿Bixby y el asistente de voz como fin último?


¿Cuál es la razón de no usar los asistentes de voz más? Nos da vergüenza


La noticia

Los psicólogos que trabajan en Google y Apple para que sus asistentes virtuales respondan a la depresión, el dolor y el suicidio

fue publicada originalmente en

Xataka

por
Javier Jiménez

.

Chequea también

650_1200

Probamos el taxi autónomo de Lyft en Las Vegas: el futuro ya está aquí

No fue glamuroso, tampoco fue surrealista. No pasé miedo, más bien al contrario. Fue un trayecto bastante tranquilo, sin sobresaltos y en medio de la lluvia y los atascos propios de una feria como el CES, a la que este año asistieron 160.000 personas. Mi primer viaje en un taxi autónomo no fue como me lo imaginaba, y eso es bueno. Ésta es mi experiencia con el taxi autónomo de Lyft desarrollado por Aptiv, que estuvo haciendo viajes gratuitos por Las Vegas para dar una imagen realista de lo que es capaz la conducción autónoma a día de hoy. Tu piloto (no humano) está en camino A partir de la primera jornada oficial del CES (el pasado martes), se habilitó en la aplicación de Lyft la posibilidad de solicitar un taxi autónomo. Cualquier persona podía hacerlo, pero debía situarse cerca de una zona concreta del Centro de Convenciones de Las Vegas y, además, cargarse de paciencia porque la disponibilidad era limitada a poco más de una decena de vehículos con la tecnología de Aptiv. Teniendo en cuenta la alta demanda de taxis esos días en la feria, los tiempos de espera eran muy largos. En mi caso fueron treinta minutos. Probablemente nadie esperaría un taxi durante media hora, ¿verdad? Yo lo hice, pero es que tenía muchas ganas de conocer a mi piloto, que tenía valoraciones de 5 estrellas y se autodescribía así: El viaje era gratuito y se podían elegir más de 20 destinos desde el Centro de Convenciones de Las Vegas, todas ellas preconfiguradas. Es decir, no podías indicarle que te llevara a ninguna otra localización que no estuviera almacenada en la aplicación. Por suerte, mi hotel casino estaba en la lista. ¿Esto es un coche autónomo? La primera impresión del coche autónomo es que no parece un coche autónomo desde fuera. Estamos acostumbrados a ver prototipos de esta guisa: Prototipo de coche autónomo de Uber y Ford Es inevitable sospechar ante esa extraña joroba, pero en el caso del Lyft, se trata de un BMW 540i equipado con 10 radares y 9 sensores LIDAR en el que no se aprecia nada fuera de lo común a simple vista. Han querido camuflar los sensores y el resultado, más allá del tuneo de pintura y llantas, es evidente: Prototipo de coche autónomo de Lyft y Aptiv Por dentro tampoco hay nada raro, salvo una tablet Samsung situada en el asiento de atrás, que sirve para indicarle a nuestro piloto autónomo que estamos listos para iniciar nuestro viaje: La seguridad es lo primero ¿Y conduce realmente solo el taxi? Sí, pero en el viaje nos acompañó un piloto de seguridad, que situaba sus manos cerca del volante y al que teníamos prohibido dirigirnos. Esto era así porque, en caso de incidente, él era el responsable legal y debía estar atento ante cualquier imprevisto. A su derecha, en el asiento del copiloto, se sentaba un ingeniero de Aptiv, que nos fue contando cómo funcionaba la tecnología en todo momento y al que sí podíamos hablar. Sobre si conduce solo o no el vehículo hay que hacer dos matices: Por ley, en Estados Unidos no puede ponerse en marcha ni aparcar un coche autónomo, así que nuestro piloto de seguridad fue el encargado de arrancar y de estacionar el vehículo. En cuanto salimos a carretera, pulsó el botón y el sistema lanzó un mensaje de audio: "conducción autónoma activa". A partir de ese momento, el coche sí conducía solo. El coche autónomo pide permiso para cambiar de carril. En nuestro caso, el piloto cambió manualmente de carril una vez para situarse a la derecha. Era paradójico ver cómo un piloto profesional estaba ahí de mero testigo mientras nos enseñaba la tecnología que puede acabar con su trabajo en el futuro El resto del tiempo el piloto posaba sus manos cerca del volante en modo alerta y sus pies estaban alejados de los pedales. Era paradójico ver cómo un piloto profesional estaba ahí de mero testigo mientras nos enseñaba la tecnología que puede acabar con su trabajo en el futuro. La paradoja: un piloto profesional es testigo de cómo conduce solo un coche autónomo. ¡Me abuuurro! Parafraseando a Homer Simpson, la mayor parte del tiempo que duró mi trayecto se podía resumir en un rotundo "Me abuuuurro". Es cierto que los dos primeros minutos noté cierta inquietud. Estaba lloviendo, había un tráfico denso, mucha gente cruzaba sin mirar. Pero al ver que la respuesta del vehículo era suave y con antelación ante los dos primeros cruces de vehículos y personas, me empecé a tranquilizar. El único punto más o menos reseñable y alejado de lo aburrido fue cuando un coche se cruzó de carril de repente y sin poner intermitente con antelación (lo hizo cuando ya estaba delante de nosotros). Quedaba a nuestra derecha y quería usar nuestro carril, el del centro, para adelantar. Las manos de nuestro piloto de seguridad se tensaron (las mías también), pero el coche autónomo respondió con una frenada progresiva no tan suave como las que habíamos visto hasta ahora. Fue una respuesta rápida y para nada abrupta, sobre todo si tenemos en cuenta las circunstancias y que fue en cuestión de segundos. Seguramente un humano habría frenado de manera más brusca. Si me hubieran tapado los ojos con una venda no habría sido capaz de decir si estaba conduciendo una persona o no Al bajarme del taxi autónomo la sensación con la que me quedé fue que, si me hubieran tapado los ojos con una venda, no habría sido capaz de decir si estaba conduciendo una persona o no. Y eso es bueno porque fue un trayecto sin sobresaltos, como el que uno espera en un desplazamiento en taxi normal. Todavía queda, pero la conducción autónoma está cerca y es totalmente real. De hecho, Aptiv pretende llevar a producción esta tecnología en 2019. Queda un año para eso. En Xataka | El MIT y la CMU creen tener la solución sobre a quién debe atropellar un coche autónomo en caso de duda También te recomendamos NIO ES8 es el SUV eléctrico hecho en china con batería intercambiable que costará la mitad que un Tesla Model X No hace falta coger el Transiberiano: los viajes en tren más chulos están en España Los primeros taxis autónomos de Lyft saldrán finalmente a las calles de Las Vegas durante el CES 2018 - La noticia Probamos el taxi autónomo de Lyft en Las Vegas: el futuro ya está aquí fue publicada originalmente en Xataka por Cesar Muela .