Twitter ofrece una recompensa por errores para detectar el sesgo de la IA y poder corregir sus algoritmos

Twitter tiene una nueva forma de deshacerse del sesgo de la inteligencia artificial: pagar a personas externas para que lo ayuden a encontrar problemas. El viernes, el fabricante de aplicaciones de mensajes cortos detalló una nueva competencia de recompensas que ofrece premios de hasta $3500 por mostrarle a Twitter cómo su tecnología maneja incorrectamente las fotos.

A principios de este año, Twitter confirmó un problema en su mecanismo automático de recorte de fotos y concluyó que el software favorecía a los blancos sobre los negros. Se supone que el mecanismo de recorte, que Twitter llama su «algoritmo de prominencia», presenta la sección más importante de una imagen cuando se desplaza por los tweets.

Obtenga el boletín de 2ktechnology Mobile

Encuentra los mejores teléfonos, aplicaciones y accesorios con nuestro boletín 2ktechnology Mobile. Se entrega martes y jueves.

El enfoque de Twitter para abordar el sesgo algorítmico (pedir a expertos y observadores externos que estudien su código y resultados) innova en las recompensas por errores, que históricamente se han utilizado para informar vulnerabilidades de seguridad. Twitter dice que su recompensa por sesgo es una primicia en la industria y espera que otras compañías hagan lo mismo. El concurso está destinado a ayudar a los esfuerzos internos de Twitter.

“Incita a más personas a involucrarse que tal vez no tenían recursos ni tiempo libre”, dijo Rumman Chowdhury, director del programa de Ética, Transparencia y Responsabilidad del Aprendizaje Automático de Twitter. “Queremos comenzar a cultivar y crear una comunidad de hackers éticos de IA”.

Abordar el sesgo algorítmico se ha convertido en una preocupación cada vez más importante para la tecnología. La IA puede causar problemas, incluida la denigración de poblaciones particulares o el refuerzo de estereotipos, si el software no se entrena de manera efectiva. El proyecto de Twitter está diseñado para solidificar los estándares en torno a ideas como el daño representativo.

Luchando con IA

  • El jefe de inteligencia artificial de Google dice que el impacto en la reputación de la unidad es «real» después de la agitación
  • Los errores de reconocimiento facial son malos para los negocios: la mayoría de nosotros no somos hombres blancos
  • Twitter finalmente verificará más cuentas: Cómo conseguir el cheque azul

AI ha revolucionado la informática al enseñar a los dispositivos cómo tomar decisiones basadas en datos del mundo real en lugar de reglas de programación rígidas. Eso ayuda con tareas complicadas como comprender el habla, filtrar el correo no deseado e identificar su rostro para desbloquear su teléfono.

Sin embargo, los algoritmos que impulsan la IA pueden ser opacos y reflejar problemas en los datos de entrenamiento. Eso ha llevado a problemas como que Google etiquete erróneamente a los negros como gorilas en las fotos. Resolver los problemas de IA es importante ya que dependemos de la tecnología para llevar a cabo cada vez más nuestra vida digital. También puede ser importante dentro de las empresas: Google reconoce que su manejo de un problema de ética de IA perjudicó la reputación de su programa.

La recompensa por sesgo algorítmico de Twitter es similar a los programas que muchas compañías tecnológicas ofrecen ahora para encontrar problemas de seguridad en sus productos. Por ejemplo, Google pagó $29 millones por 11,055 vulnerabilidades encontradas en Android, Chrome y otros productos de Google durante la última década.

StartupHackerOne está ayudando a ejecutar la competencia de recompensas de sesgo algorítmico de Twitter, compartiendo reglas y aceptando envíos. La fecha límite para participar es el 6 de agosto a las 11:59 p. m. (hora del Pacífico) y Twitter anunciará a los ganadores el 8 de agosto.

Las deficiencias de la IA se pueden explotar de muchas maneras, incluidas las imágenes especialmente diseñadas que podrían convertir el software destacado de Twitter en un cómplice involuntario de un ataque externo. Es posible que los investigadores quieran examinar otros algoritmos en busca de sesgo: los tweets que Twitter elige destacar u omitir de su feed, por ejemplo. Por el momento, la generosidad de sesgo de Twitter se limita a su algoritmo de recorte.

Ciberseguridad Inteligencia artificial (IA) Twitter Notificación on Notificación off Móvil

Deja un comentario

Tu dirección de correo electrónico no será publicada.