La inteligencia artificial puede hacer cosas increíbles, pero no es perfecta. Janelle Shane, científica investigadora, catalogada "las formas a veces divertidas y a veces inquietantes en las que los algoritmos cometen errores "en su sitio web, AI Weirdness, y profundizan en el tema en su nuevo libro, publicado esta semana.
Una y otra vez, las redes neuronales de la Dra. Shane ingieren los datos que les arroja y arrojan cosas extrañas, que van desde recetas no comestibles (¿brownies de rábano picante, a alguien?), A través de nombres. Gatos extraños y colores pintados del infierno.
A primera vista, el libro del Dr. Shane …Te ves como una cosa y te amo: cómo funciona la IA y por qué hace del mundo un lugar extrañoParece que la inteligencia artificial se está leyendo a la ligera, pero hay algunas lecciones que aprender sobre las vulnerabilidades humanas. Hablamos con el Dr. Shane sobre por qué escribió el libro y qué esperaba aprender de él.
Dr. Shane, ¿puede explicar su trabajo diario en Boulder Nonlinear Systems, donde hace hologramas controlados por computadora para estudiar el cerebro y los dispositivos fotónicos (guía de luz)?
¡Sobre! Trabajo como investigador científico en una pequeña empresa que está desarrollando nuevos métodos para dirigir la luz. Trabajo en diferentes campos porque hay muchas aplicaciones. Estudiar el cerebro es un área importante. Algunos científicos usan nuestros hologramas programables para estudiar cómo las neuronas están conectadas al cerebro de un ratón.
Parece extraño y maravilloso en sí mismo. ¿Cuál es el proyecto más extraño en el que has trabajado?
Uno de los proyectos más extraños en los que he trabajado ha sido el desarrollo de una arena de realidad virtual para camarones mantis.
La mente desconcertada. De acuerdo, dénos ahora la historia de escribir este libro.
Cada vez más recurrimos a la inteligencia artificial en nuestra vida cotidiana, a algoritmos que determinan los anuncios que vemos, o a un préstamo, a sistemas impulsados total o parcialmente por humanos que siempre se venden como "IA". Quería crear una forma divertida y asequible para que las personas aprendieran sobre IA porque casi todos necesitarán conocer los conceptos básicos.
(Dra. Janelle Shane)
¿Cómo nació este título?
El título proviene de una red de neuronas que he formado en una colección de líneas de colección existentes. No entendía bien el significado de lo cursi y las insinuaciones de los originales. En mi opinión, Te ves como una cosa y me gustas es mejor que todos!
En efecto. En una nota seria, en el libro, usted dice: "Cada vez más, nuestra vida cotidiana se rige por algoritmos, las peculiaridades de la IA comienzan a tener consecuencias". ¿Nos llamas cuando te despiertas?
Creo que ya estamos comenzando a darnos cuenta de lo sesgado que puede ser un algoritmo: puede evitar que las personas sean liberadas en libertad condicional, atención médica o una entrevista, simplemente copiando Inconscientemente, los prejuicios que observa en el comportamiento humano. La gente ya está desafiando algunos de estos algoritmos sesgados y sesgados por la corte. Me gustaría ver no solo el sesgo, sino también el Por qué de parcialidad se convierten en conocimiento común. Otras peculiaridades relacionadas con la inteligencia artificial también pueden ser perjudiciales, y la excesiva confianza en la inteligencia artificial suele estar en la raíz.
En su entrevista con la Dra. Yolanda Gil, Presidenta de la Asociación para la Promoción de la IA, ella habló de la necesidad de ética en el terreno. Pero va más allá de eso, alegando que cualquier inteligencia artificial en una caja negra es un problema si no podemos ver cómo llegó a sus conclusiones.
Creo que la ética en la IA debe incluir un reconocimiento de que la IA no suele decirnos cuándo llegaron a sus respuestas a través de métodos problemáticos. Por lo general, todo lo que vemos es la decisión final y algunas personas se sintieron tentadas a tomar una decisión imparcial solo porque una máquina estaba involucrada. Creo que el uso ético de la IA implicará una revisión de sus decisiones. Si no podemos mirar dentro del recuadro negro, al menos podemos compilar estadísticas sobre decisiones de IA y buscar problemas sistemáticos o problemas extraños.
¿Cómo podemos hacerlo?
Algunos investigadores ya están tomando decisiones sobre algoritmos de alto nivel, pero quienes los construyen tienen la responsabilidad de realizar la debida diligencia en su propio trabajo. Esto se suma a una mayor ética sobre la necesidad de construir un algoritmo particular. Si los algoritmos de reconocimiento facial tienden a usarse contra minorías, y los algoritmos de reconocimiento de emociones tienden a ignorar a las personas no neurotípicas, ¿deberíamos construirlos?
Buen punto Como ha ilustrado, algunas IA, especialmente la GAN, donde compiten, pueden producir un trabajo extremadamente creativo, especialmente en los ámbitos mágicos de la moda y el diseño, pero no queremos cibernéticos. – seguridad extraña, ¿no?
Ja, sí, hay aplicaciones para las que deseamos un comportamiento extraño y no humano. Y luego hay aplicaciones para las que realmente preferiríamos evitar la extrañeza. Desafortunadamente, cuando usa algoritmos de aprendizaje automático, donde no les dice exactamente cómo resolver un problema en particular, puede haber peculiaridades extrañas en las estrategias elegidas. Los investigadores han demostrado que al inyectar solo unos pocos ejemplos cuidadosamente seleccionados en bases de datos públicas, podrían diseñar malware que les permita anular detectores de malware basados en IA entrenados. en estas bases de datos. No hemos visto ningún ejemplo concreto de este tipo de ataques conflictivos, pero a la gente le preocupa.
El Dr. Aleksandra Faust, de la división Google Robotics / AI, nos contó sobre los desafíos de enseñar a los robots cómo navegar en entornos. Tienes un buen ejemplo en el libro sobre una inteligencia artificial "que busca entender" cómo conseguir un "cuerpo" del punto A al punto B.
Si la IA puede diseñar el plan de cuerpo de su elección, tiende a convertirse en una gran torre y caer, aterrizando en el punto B. Me gusta este ejemplo porque se repite una y otra vez. , ya que la gente está trabajando en ello. Robots controlados por IA. Es mucho más fácil caer que aprender a caminar.
Como señala en el libro, la IA también tiene un problema de memoria.
En general, las IA son más fáciles con aplicaciones donde no necesitan mucha memoria. Tengo muchos ejemplos de redes neuronales que generan texto que solo tienen recuerdos que se remontan solo a una o dos o incluso unas pocas palabras. Uno de ellos, formado en los diarios de los sueños, tiene la incoherencia de un sueño en sí mismo, al cambiar la configuración, los personajes y los escenarios, incluso en medio de d & rsquo; Una oración Recientemente, las nuevas redes neuronales grandes han tenido nuevas formas de hacer un seguimiento de la información de larga data y esto ha mejorado un poco. Sin embargo, una historia escrita en una red neuronal tiende a perder rápidamente la noción de la trama.
La tragedia de Tesla de marzo de 2018, cuando un conductor murió porque su automóvil no había registrado un camión de plataforma en la parte delantera, estuvo ampliamente cubierta. Y usted dice que la autonomía total probablemente nunca se logrará, ¿no es así? Hay demasiadas variables?
Es mucho más fácil crear una IA que siga los caminos y respete las reglas del camino que hacer una IA que evite problemas extraños. Es precisamente este problema: que hay tanta variedad en el mundo real y tantas cosas extrañas que suceden que las IA no han visto todo durante el entrenamiento. Los humanos son relativamente buenos en el uso de su conocimiento del mundo para adaptarse a las nuevas circunstancias, pero las IA son mucho más limitadas y tienden a ser horribles. Por otro lado, las IA son mucho mejores para conducir que los humanos. ¿Habrá un momento en que la consistencia de la IA supere los problemas extraños y donde nuestras compañías de seguros comenzarán a hacernos usar autos autónomos? ¿O la idea de los problemas es demasiado aterradora? No estoy seguro.
En una nota más positiva, destaca la IA conocida como Quicksilver, que corrige el equilibrio de género en Wikipedia al automatizar las entradas para los científicos que no son hombres cisgénero. ¿Tienes algún otro ejemplo de "buena" IA?
He hablado con traductores y transcriptores de audio que usan herramientas de inteligencia artificial como su primera versión. Al igual que los artículos Quicksilver, el producto aún requiere una edición humana, pero ahorra mucho tiempo. Otra área que me encanta es el uso creativo de la IA, incluidos los artistas y músicos que utilizan la generación y el filtrado de IA como herramienta. creativa. Espero con interés la próxima novela de Robin Sloan, en la que genera frases y pasajes extraños y sugerentes con la ayuda de una red de neuronas generadoras de texto especialmente capacitadas.
Historia rápida: Obtuvo su doctorado en Fotónica en la Universidad de California en San Diego después de una maestría en Escocia y una licenciatura en Ingeniería Eléctrica en la Universidad Estatal de Michigan. ¿Cómo llegaste a este campo en primer lugar?
Conocí por primera vez el aprendizaje automático en Michigan State, donde asistí a una conferencia fascinante del profesor Erik Goodman sobre su trabajo en algoritmos evolutivos. Contó historias similares a las descritas en mi libro: algoritmos que malinterpretan sus tareas de una manera divertida o conducen a soluciones inesperadas (y a veces inexplicables). Comencé a trabajar en algoritmos evolutivos antes de pasar gradualmente a la óptica, pero siempre los he encontrado fascinantes.
Finalmente, usted indica: "Cuanto más estrecha es su tarea, más inteligente parece una IA". ¿Su argumento es que la IA solo debe usarse para tareas muy específicas con límites claros, o que funciona realmente bien solo con supervisión humana, pero más como una IA? o aumento de la inteligencia humana?
Creo que hay un lugar para ambos tipos de IA. Descubrimos que la IA funcionó sorprendentemente bien en tareas apretadas y restringidas como jugar ajedrez o jugar Go. En otras aplicaciones, la inteligencia artificial puede ser muy útil incluso si no lo es. perfecto, como filtrar spam o etiquetar fotos. Cuando necesitamos evitar problemas, y especialmente si hay un riesgo de daño, siempre necesitamos supervisión humana. Incluso si pensamos que una tarea es lo suficientemente estrecha para la IA, necesitamos un humano para verificar que la IA realmente lo haya hecho correctamente. Como seres humanos, realizamos tareas vastas y difíciles tan desconsideradas que tendemos a ser terribles jueces de la dificultad de la tarea, hasta que construimos una IA para hacerlo y eso falla inesperadamente
Pareces una cosa y te amo: cómo funciona la IA y por qué hace del mundo un lugar extraño el 5 de noviembre
