El sesgo humano en la máquina de IA

Cómo la inteligencia artificial está sujeta a un sesgo cognitivo.

Pixabay

Fuente: Pixabay

La inteligencia artificial (AI) puede resultar en avances positivos y consecuencias negativas involuntarias. Un área clave que merece mayor investigación es el impacto del sesgo cognitivo humano sobre la IA. Harvard y MIT Profesor George Church, Singularity University Neil Jacobstein, MIT Físico Max Tegmark, Behavioral Economics y Data Scientist Colin WP Lewis, Ph.D., Oxford Profesor de filosofía Nick Bostrom, SpaceX y Tesla Motors Fundador Elon Musk, cofundador de Apple Steve Wozniak y el físico de Cambridge Stephen Hawking se encuentran entre las más de 8,000 personas que han firmado una carta abierta sobre inteligencia artificial que busca investigar cómo cosechar los beneficios de la IA y evitar las trampas [1].

“El éxito en la creación de una IA efectiva podría ser el evento más grande en la historia de nuestra civilización. O lo peor. “Stephen Hawking, físico

Al igual que el cerebro humano, la inteligencia artificial está sujeta a un sesgo cognitivo. Los sesgos cognitivos humanos son heurísticos, atajos mentales que sesgan la toma de decisiones y el razonamiento, lo que resulta en errores de razonamiento. Los ejemplos de sesgos cognitivos incluyen los estereotipos, el efecto del tren de vaivén, el sesgo de confirmación, el cebado, la percepción selectiva, la falacia del jugador y el sesgo de selección observacional. El número total de sesgos cognitivos está en constante evolución, debido a la identificación continua de nuevos sesgos.

El sesgo cognitivo humano influye en la IA a través de datos, algoritmos e interacción. El aprendizaje automático, un subconjunto de AI, es la capacidad de las computadoras para aprender sin programación explícita. El aprendizaje de IA está conformado por datos, algoritmos y experiencia a través de interacciones e iteraciones. El tamaño, la estructura, la metodología de recopilación y las fuentes de datos afectan el aprendizaje automático. El aprendizaje automático depende de la calidad de los conjuntos de datos de aprendizaje. Al igual que en los humanos, en la IA, cuanto más objetiva es la información y cuanto mayor es el conjunto de datos, menor es la posibilidad de distorsión [2].

El factor subyacente común en los sesgos cognitivos es la inclinación. La propensión a la IA se ve influida por la asignación de peso a los parámetros y nodos de una red neuronal, un sistema informático modelado en el cerebro humano. El peso puede sesgar inadvertidamente el algoritmo de aprendizaje automático desde el inicio a través de la entrada de datos, a través de la capacitación supervisada y mediante la intervención a través de ajustes manuales. La ausencia o inclusión de indicadores y los sesgos cognitivos inherentes del programador de computadora humana pueden causar un sesgo de aprendizaje automático [3].

La revolución de la inteligencia artificial (AIR) está en marcha [4]. La inteligencia artificial es actualmente una herramienta utilizada para ayudar a humanos y se está implementando como soluciones puntuales en una amplia variedad de funciones como asistentes digitales personales, filtrado de correos electrónicos, búsqueda, prevención de fraude, ingeniería, modelos de marketing, distribución digital, reconocimiento de voz, reconocimiento facial , clasificación de contenido, lenguaje natural, producción de videos, generación de noticias, análisis de juego y juego, servicio al cliente, informes financieros, optimización de marketing, administración de costos de energía, precios, inventario, aplicaciones empresariales y más funciones [5]. Algunos de los más grandes pensadores del siglo XXI han advertido sobre los peligros de la IA sin control. La creciente penetración de AI requiere la minimización del sesgo cognitivo humano en la máquina. El futuro de la humanidad puede muy bien depender de ello.

Referencias

1. “Prioridades de investigación para la inteligencia artificial robusta y beneficiosa: una carta abierta”. Future of Life Institute. Recuperado el 2 de febrero de 2018.

2. Rosso, Cami. “El enigma del aprendizaje automático y sesgos cognitivos”. Medio . 14 de julio de 2015.

3. Ibid.

4. Rosso, Cami. “¿Por qué la Inteligencia Artificial es la Próxima Revolución? AI cambiará casi todos los aspectos de nuestras vidas diarias”. Medio . 16 de marzo de 2016.

5. Rosso, Cami. “Por qué AI está ahora en tendencia”. Medio . 21 de febrero de 2017.

  • El efecto espectador
  • Después de Dallas, ¿por qué los blancos no se apresuran a aprobar la reforma de armas?
  • El efecto de fin de semana
  • La DEA está reduciendo la producción de opioides en los EE. UU.
  • 4 pasos para volverse mentalmente más duro
  • Cuando la expectativa es que los padres pasen
  • 'Sexting' y suicidio
  • Psicótico o psicópata? en los diarios vampíricos
  • Hermandad y amistad en la adultez
  • Hacia dónde OJ?
  • ¿Qué aspecto tiene un gran gerente?
  • ¿Donald Trump tiene libre albedrío?
  • Metas, Niñas y Gratitud.
  • Right Wingers y el cerebro reptil
  • TDAH "Síntomas" son ventajas para el emprendedor
  • ¿Los padres engordan a sus hijos?
  • Miles necesitan que los adolescentes los lleven a la escuela
  • Escuela hecha fácil: la educación del carácter es la clave
  • ¿Las personas deciden qué hacer?
  • El poder de cuestionar en el entrenamiento deportivo
  • ¿Puede la psicología resolver una paradoja clásica?
  • Problema profundo de AI
  • Mi biografía post-chamánica
  • Dentro del cerebro de un Weiner: no puede ser tan diferente de ti y de mí
  • Lo que deseo que la policía supiera sobre REBT
  • Truco usted mismo en la alimentación saludable
  • Creatividad holística
  • El peligro de beber hasta apagarse
  • Líderes: amamos a los líderes humildes, pero idolatramos a los narcisistas
  • Divide y conquistaras
  • La verdad sobre los adolescentes y el sexo
  • Al caer y levantarse
  • Las líneas de fallas psicológicas de la toma de decisiones en la guerra
  • La vida emocional de las máquinas inteligentes
  • Cariño, ¿debería llorar por la leche derramada?
  • Hacia un modelo cuántico de humor