julio 11, 2017

La humanidad está perdida si la inteligencia artificial se basa en criterios comerciales

Son las grandes empresas las que están desarrollando estos sistemas y lo hacen de acuerdo a sus propios objetivos: vender y generar beneficios a través de manipular a las personas. Debemos crear una IA que mejore la naturaleza humana y no al revés

Entre 2007 y 2014, fui la CEO de Cognea, una empresa que ofrecía una plataforma para desarrollar complejos agentes virtuales de forma rápida mediante una combinación de aprendizaje estructurado y profundo. El sistema ha sido empleado por decenas de miles de desarrolladores, y también media docena de empresas de la lista Fortune 100. Finalmente fue adquirido por IBM Watson en 2014.

Cuando analicé las interacciones que la gente mantiene con las decenas de miles de agentes desarrollados en nuestra plataforma, me quedó claro que los humanos están muy dispuestos a entablar una relación con software de inteligencia artificial, mucho más de lo que cree la gente.

Yo siempre había pensado que la gente querría mantener algo de distancia con la inteligencia artificial, pero lo que me encontré fue justo lo contrario. Las personas están dispuestas a formar relaciones con inteligencias artificiales, siempre que tengan un diseño sofisticado y estén muy personalizadas. Parece que los humanos queremos convencernos de que la IA realmente se preocupa por nosotros.

Quien consigue que un usuario pida un a pizza a domicilio en lugar de dar una orden a su mayordomo virtual para que compre verduras para hacer un plato más barato y sano, gana. Y quien consiga que los usuarios se acostumbren y dependan de pasar 30 horas a la semana con su amigo virtual “perfecto” que tolera cualquier abuso, también ganará.

Esto me resultó desconcertante hasta que me di cuenta de que conectamos con muchas personas de una manera superficial en nuestro día a día mientras atravesamos una especie de fango emocional. ¿Acaso los amigos devuelven las llamadas cuando se les ignora durante un tiempo? ¿Las personas a las que contratamos aparecen en nuestra puerta si no les pagamos? No, pero una personalidad artificial siempre está a nuestra disposición. En algunos sentidos, es una relación más auténtica.

Y observé que el fenómeno se repetía independientemente de si el programa estaba diseñado para actuar como un banquero, compañero o un entrenador personal. Los usuarios hablaban con los asistentes automatizados durante más tiempo del que dedicaban a sus homólogos humanos. La gente compartía voluntariamente secretos muy personales con las personalidades artificiales, como sus sueños de futuro, detalles sobre sus vidas amorosas o incluso contraseñas.

por Liesl Yearsley | traducido por Teresa Woods

leer más en la Fuente

Contact Us