Conferencia de la ACM sobre equidad, rendición de cuentas y transparencia
 | Este artículo tiene varios problemas. Ayúdenos a mejorarlo o a discutir estos problemas en la página de discusión . ( Aprenda cómo y cuándo eliminar estos mensajes )
|
La Conferencia ACM sobre Equidad, Responsabilidad y Transparencia (ACM FAccT, anteriormente conocida como ACM FAT*) es una serie de conferencias académicas revisadas por pares sobre ética y sistemas informáticos. [1] Patrocinada por la Association for Computing Machinery , esta conferencia se centra en cuestiones como la transparencia algorítmica , la equidad en el aprendizaje automático , el sesgo y la ética desde una perspectiva multidisciplinaria. [2] La comunidad de la conferencia incluye científicos informáticos, estadísticos, científicos sociales, académicos de derecho y otros. [3]
La conferencia está patrocinada por grandes empresas tecnológicas como Facebook , Twitter y Google , y grandes fundaciones como la Fundación Rockefeller , la Fundación Ford , la Fundación MacArthur y Luminate . [4] Los patrocinadores contribuyen a un fondo general (no se permiten contribuciones "asignadas") y no tienen voz ni voto en la selección, el contenido o la estructura de la conferencia. [5]
Descripción general de FATE
El acrónimo FATE se refiere a Equidad, Responsabilidad, Transparencia y Ética en sistemas sociotécnicos. FATE es un tema de creciente interés a medida que aumentan las implicaciones sociales y éticas de sistemas complejos como la inteligencia artificial (IA), el aprendizaje automático (ML) y el procesamiento del lenguaje natural (NLP). El tema plantea un desafío interdisciplinario para cerrar la brecha de transparencia entre académicos técnicos y no técnicos y responsables de políticas para garantizar la seguridad y equidad de los sistemas algorítmicos a medida que avanzan a un ritmo rápido. [6] Algunas soluciones y técnicas que se han descubierto incluyen la inteligencia artificial explicable (XAI).
Las recientes adopciones de IA tanto en el sector público como en el privado incluyen el algoritmo predictivo de reincidencia (también conocido como COMPAS ), que se implementó en el Tribunal de los EE. UU., así como la herramienta de reclutamiento impulsada por IA de Amazon, que luego se demostró que favorecía a los solicitantes masculinos sobre los femeninos. Además, el soporte de decisiones basado en IA (ADS) impulsado por técnicas de aprendizaje automático se está integrando cada vez más en campos como la justicia penal, la educación y la provisión de beneficios. [7] FATE funciona como un medio para analizar más a fondo los algoritmos para generar conciencia y trabajar hacia una solución. Empresas como Microsoft han creado equipos de investigación específicamente dedicados al tema. [8]
Áreas de investigación clave y tendencias emergentes en FATE
La Conferencia FAccT 2024 está buscando artículos específicamente dentro de las siguientes áreas: Auditorías y prácticas de evaluación, Desarrollo e implementación de sistemas, Experiencias e interacciones, Estudios críticos, Derecho y políticas, y Filosofía.
Impacto e influencia
Las investigaciones de la conferencia ACM FAccT han influido enormemente tanto en las normas públicas como en el funcionamiento de las empresas. Los gobiernos y las organizaciones han utilizado las ideas de la conferencia para crear directrices y políticas. Por ejemplo, los estudios sobre el sesgo en los algoritmos han ayudado a cambiar los métodos de contratación en las grandes empresas tecnológicas, haciéndolos más justos. Además, esta investigación ha dado forma a las leyes sobre cómo debe gestionarse la inteligencia artificial (IA). La conferencia también ha ayudado a orientar los debates mundiales sobre la ética de la IA, contribuyendo a la elaboración de directrices importantes como la Ley de IA de la Unión Europea y los Principios de IA de la OCDE.
Críticas y controversias
Aunque la conferencia ACM FAccT goza de buena reputación, ha recibido algunas críticas. Algunas personas dicen que las ideas compartidas en la conferencia suelen estar demasiado centradas en la teoría y pueden no funcionar bien para problemas del mundo real. Otros han notado que, aunque la conferencia habla sobre la equidad y la transparencia en la IA, las empresas que la patrocinan no siempre crean tecnología que siga estos valores. También existe un debate sobre si la conferencia puede seguir siendo verdaderamente independiente mientras recibe dinero de las grandes empresas tecnológicas.
Para obtener más información sobre áreas relevantes para FATE, consulte:
Arte de inteligencia artificial
Marketing de inteligencia artificial
Ética de la inteligencia artificial
Lista de conferencias
Las conferencias pasadas y futuras de FAccT incluyen:
| Año | Ubicación | Fecha | Oradores principales/invitados | Enlace |
|---|---|---|---|---|
| 2024 | Río de Janeiro, Brasil | 3 al 6 de junio | Por determinar | Sitio web |
| 2023 | Chicago, Illinois y en línea | 12 al 15 de junio | Payal Arora , Charlotte Burrows , Alex Hanna , Moritz Hardt, Alondra Nelson y Ziad Obermeyer | Sitio web |
| 2022 | Seúl, Corea del Sur y en línea | 21 al 24 de junio | Cha Meeyoung , Pascale Fung , Mariano-Florentino Cuéllar , André Brock | Sitio web |
| 2021 | En línea | 3 al 10 de marzo | Yeshimabeit Milner , Katrina Ligett y Julia Angwin | Sitio web |
| 2020 | Barcelona, España | 27–30 de enero | Ayanna Howard , Yochai Benkler , Nani Jansen Reventlow | Sitio web |
| 2019 | Atlanta, Georgia | 29–31 de enero | Jon Kleinberg , Deirdre Mulligan | Sitio web |
| 2018 | Nueva York, Nueva York | 23 y 24 de febrero | Latanya Sweeney , Deborah Hellman | Sitio web |
Referencias
- ^ "Conferencias de la Asociación para Maquinaria Informática" . Consultado el 27 de marzo de 2019 .
- ^ Laufer, Benjamin; Jain, Sameer; Cooper, A. Feder; Kleinberg, Jon; Heidari, Hoda (20 de junio de 2022). "Cuatro años de FAccT: un análisis reflexivo de métodos mixtos de las contribuciones de la investigación, las deficiencias y las perspectivas futuras". Actas de la Conferencia de 2022 sobre equidad, rendición de cuentas y transparencia . FAccT '22. Seúl, Corea: Association for Computing Machinery. págs. 401–426. doi : 10.1145/3531146.3533107 . ISBN . 978-1-4503-9352-2.S2CID249642305 .
- ^ "Conferencia ACM FAT 2019". www.acm.org . Consultado el 1 de febrero de 2019 .
- ^ "Patrocinadores de ACM FAccT 2020" . Consultado el 19 de febrero de 2019 .
- ^ "Política de patrocinio de ACM FAccT" . Consultado el 19 de febrero de 2019 .
- ^ Memarian, Bahar; Doleck, Tenzin (1 de enero de 2023). "Equidad, rendición de cuentas, transparencia y ética (FATE) en la inteligencia artificial (IA) y la educación superior: una revisión sistemática". Computadoras y educación: inteligencia artificial . 5 : 100152. doi : 10.1016/j.caeai.2023.100152 . ISSN 2666-920X.
- ^ Levy, Karen; Chasalow, Kyla E.; Riley, Sarah (13 de octubre de 2021). "Algoritmos y toma de decisiones en el sector público". Revista anual de derecho y ciencias sociales . 17 (1): 309–334. arXiv : 2106.03673 . doi :10.1146/annurev-lawsocsci-041221-023808. ISSN 1550-3585.
- ^ "FATE: Equidad, responsabilidad, transparencia y ética en la IA". Microsoft Research . Consultado el 19 de noviembre de 2023 .
Enlaces externos
- Sitio web oficial
[1]
Binns, Reuben (2021). "Justicia, igualdad y poder en la toma de decisiones algorítmica". Actas de la Conferencia ACM de 2021 sobre equidad, rendición de cuentas y transparencia . págs. 149-159. doi :10.1145/3442188.3445919. ISBN 978-1-4503-8309-7.</ref>
- ^ Green, Ben (2021). "Equidad a través de la robustez: investigación de la disparidad de robustez en el aprendizaje profundo". Actas de la Conferencia ACM de 2021 sobre equidad, rendición de cuentas y transparencia . págs. 103–115. doi :10.1145/3442188.3445910. ISBN 978-1-4503-8309-7.
