La red social busca arreglar sesgos dentro de su algoritmo que puedan ser percibidos como perjudiciales por los usuarios de la plataforma.
En un intento por evitar problemas relacionados con los recortes de imagen automatizados en la plataforma, Twitter ha anunciado una nueva competencia para que hackers descubran errores en su algoritmo.
La red social ha anunciado esta competencia como “el primer desafío de recompensa por sesgo algorítmico” y ha hecho especial énfasis en el objetivo de encontrar errores fundamentales en el algoritmo encargado del recorte de imágenes que aparecen como vista previa de ciertos contenidos en la plataforma.
Desde hace ya algún tiempo Twitter había anunciado su interés en estudiar posibles “daños no intencionales” causados por su algoritmo y en el pasado mes de abril aclaró que empezaría analizando el algoritmo encargado del recorte de imágenes.
Este algoritmo para el recorte de imágenes empezó a ser usado por la plataforma desde el año 2018 y desde entonces ha sido bastante controversial. La idea del recorte de vista previa de imágenes es destacar áreas de relevancia visual en una imagen, de manera que el recorte capte la atención de los usuarios antes de que abran la imagen completa.
El problema principal que muchos habrían notado con el algoritmo de recorte de imágenes sería que se encontraba sesgado hacia destacar principalmente personas con tonos de piel más claros sin importar el contexto de la imagen, lo que causó bastante disgusto entre muchos de los usuarios de la plataforma.
A pesar de que recientemente la red social adoptó un nuevo tamaño de recorte de imagen especial para el contenido en vertical, Twitter seguiría con interés hacia mejorar el algoritmo encargado del recorte de imágenes y por lo tanto preferirían compartir este reto abiertamente con los hackers interesados en completar el desafío.
La forma en que se realizará la competencia es que aquellos compitiendo tendrán que enviar una descripción de sus hallazgos junto a los pasos necesarios para demostrar el problema exacto usando el algoritmo.
Twitter decidirá los puntos otorgados a cada competidor en base a qué tan serias son las fallas encontradas en el algoritmo y qué tan gravemente podrían afectar a los usuarios, entre más puntos a consideración. El equipo ganador recibirá 3.500 dólares y hay premios separados de 1.000 dólares para los hallazgos más innovadores y generalizables.
Los precios de los premios del concurso ya han causado revuelo entre los interesados y los mismos usuarios de la plataforma pues el programa normal de recompensas por errores usualmente paga alrededor de 2.940 dólares a aquellos que encuentren fallas que permitan realizar acciones por otras personas sin acceder a sus cuentas.
Tal es el caso que Twitter también cuenta en su programa tradicional de recompensas con un premio de 7.700 dólares para aquellos que encuentren problemas OAuth que permitan conseguir el control completo de una cuenta ajena dentro de la red social. Por comparación, para muchos les parecen mejores las recompensas externas a la nueva competencia.
Twitter también aclaró que esta competencia y su programa de recompensas tradicional se desarrollarán por separado, así que aquellos que reporten sus hallazgos, pero no lo hagan mediante las vías oficiales del concurso, no serán considerados como competidores y por lo tanto no serán elegibles para los beneficios aún si sus descubrimientos son significativos.
Para todos los interesados en participar de la competencia especialmente dedicada a hackers, Twitter compartirá información de su algoritmo de machine learning usado en los recortes de imágenes para que pueda ser estudiado y modificado con el objetivo de reconocer tanto fallas como oportunidades de mejora.
La competencia se abrirá desde la página oficial de HackerOne donde también están las explicaciones detalladas de reglas y materiales. El concurso iniciará el próximo 6 de agosto y los ganadores serán revelados el 9 de agosto en la conferencia de desarrolladores AI Village.
Fuente: Infobae
¿Eres tú también un entusiasta del hacking ético? ¿Quieres volverte un profesional en este rubro? Con EducaciónIT aprenderás las técnicas más utilizadas por los hackers y cómo utilizarlas para analizar la seguridad de las redes empresariales, adentrándote en los conceptos de Vulnerabilidad, Exploit, y mucho más. Conoce más de nuestro curso de Ethical Hacking – Penetration Testing.
- El teclado para ‘copiar y pegar’ código de Stack Overflow, una inocentada convertida en gadget (y ya en preventa) – 6 octubre, 2021
- Los papeles de Pandora: cómo Python y el aprendizaje automático han sido clave en una investigación mundial con datos masivos – 5 octubre, 2021
- China marca las directrices éticas de la IA nacional: un mayor control frente a los algoritmos de las grandes tecnológicas – 4 octubre, 2021
Deja una respuesta