Monocultivo (informática)

This article needs additional citations for verification. Please help improve this article by adding citations to reliable sources. Unsourced material may be challenged and removed. Find sources: "Monoculture" computer science – news · newspapers · books · scholar · JSTOR (July 2024) (Learn how and when to remove this message)

En informática , un monocultivo es una comunidad de ordenadores que ejecutan el mismo software. Por lo tanto, todos los sistemas informáticos de la comunidad tienen las mismas vulnerabilidades y, al igual que los monocultivos agrícolas , están sujetos a fallos catastróficos en caso de un ataque exitoso. ^[1]

Con la tendencia global de un mayor uso y dependencia de los sistemas informáticos, algunos proveedores ofrecen soluciones que se utilizan en toda la industria (como Microsoft Windows ), lo que forma monocultivos algorítmicos. Los monocultivos se forman de manera natural, ya que utilizan economías de escala , es más barato fabricar y distribuir una única solución. Además, al ser utilizados por una gran comunidad, los errores se descubren con relativa rapidez.

Al igual que los monocultivos agrícolas , los monocultivos algorítmicos no son diversos, por lo que son susceptibles a fallas correlacionadas (fallas de muchas de las partes que participan en el monocultivo). En los no monocultivos completos, donde el resultado de todos los componentes es mutuamente independiente y, por lo tanto, no está correlacionado, la probabilidad de un evento catastrófico (falla de todas las partes del monocultivo) es la multiplicación de la probabilidad de falla de cada componente (decreciente exponencialmente).

Por otro lado, los monocultivos perfectos están completamente correlacionados, por lo que tienen un único punto de fallo. Esto significa que la probabilidad de un evento catastrófico es constante: el fallo probablemente sea de un solo componente.

Dado que los sistemas operativos se utilizan en casi todas las estaciones de trabajo, forman monoculturas. Por ejemplo, Dan Geer ha afirmado que Microsoft es una monocultura, ya que la mayoría del número total de estaciones de trabajo conectadas a Internet ejecutan versiones del sistema operativo Microsoft Windows , muchas de las cuales son vulnerables a los mismos ataques.

También pueden surgir grandes monocultivos a partir de bibliotecas de software , por ejemplo, el exploit Log4Shell en la popular biblioteca Log4j, que se estima que afecta a cientos de millones de dispositivos. ^[2]

El concepto es significativo cuando se habla de seguridad informática y virus , la principal amenaza es la exposición a vulnerabilidades de seguridad. Dado que los monocultivos no son diversos, cualquier vulnerabilidad encontrada existe en todos los miembros individuales del monocultivo, lo que aumenta el riesgo de explotación. ^[3] Un ejemplo de ello es el miércoles de explotación, en el que después de que se lanzan los parches de seguridad de Windows, hay un aumento de los eventos de explotación en máquinas no actualizadas.

Clifford Stoll escribió en 1989 después de lidiar con el gusano Morris : ^[4]

Un virus informático es especializado: un virus que funciona en un IBM PC no puede hacer nada en un Macintosh o en un ordenador Unix . De manera similar, el virus Arpanet sólo podía atacar a sistemas que ejecutaban Berkeley Unix . Los ordenadores que ejecutaban otros sistemas operativos (como AT&T Unix , VMS o DOS ) eran totalmente inmunes.

La diversidad, entonces, funciona contra los virus. Si todos los sistemas de Arpanet funcionaran con Berkeley Unix, el virus habría inutilizado a los cincuenta mil. En cambio, sólo infectó a un par de miles. Los virus biológicos son igualmente especializados: no podemos contagiarnos de gripe de los perros.

Los burócratas y los gerentes siempre nos instarán a que nos estandaricemos en un solo tipo de sistema: "Utilicemos sólo estaciones de trabajo Sun" o "Compremos sólo sistemas IBM". Sin embargo, de alguna manera nuestras comunidades de computadoras son una población diversa: las máquinas Data General se encuentran junto a las Digital Vaxes ; las IBM conectadas a las Sonys . Al igual que nuestros vecindarios, las comunidades electrónicas prosperan a través de la diversidad.

Otra preocupación importante es la creciente difusión del sesgo algorítmico . A la luz del aumento del uso del aprendizaje automático, existe una creciente conciencia de los sesgos introducidos por los algoritmos. La naturaleza de los monocultivos exacerba este problema, ya que hace que el sesgo sea sistémico y propague decisiones injustas.

Las monoculturas pueden dar lugar a paradojas similares a las de Braess , en las que la introducción de una "mejor opción" (como un algoritmo más preciso) conduce a una convergencia monocultural subóptima, una monocultura cuya naturaleza correlacionada da como resultado una calidad general degradada de las decisiones. Dado que las monoculturas se forman en áreas de decisiones de alto riesgo, como la calificación crediticia y la contratación automatizada, es importante lograr una toma de decisiones óptima.

Este escenario puede estudiarse desde la perspectiva del diseño de mecanismos , en el que los agentes eligen entre un conjunto de algoritmos, algunos de los cuales arrojan resultados correlacionados. El impacto general de la toma de decisiones se mide en términos de bienestar social .

En esta sección se demuestra la preocupación que suscita la convergencia subóptima de una cultura monocultural utilizando la contratación automatizada como caso de estudio. La contratación es el proceso de clasificar a un grupo de candidatos y contratar a los más valorados. En los últimos años, la contratación automatizada (clasificación automática de candidatos en función de su interacción con un sistema impulsado por IA) se ha vuelto popular.

Como lo demuestra Kleinberg ^[5] , bajo ciertos supuestos, se forman naturalmente monoculturas de contratación automatizada subóptima, es decir, elegir el algoritmo correlacionado es una estrategia dominante , convergiendo así hacia una monocultura que conduce a un bienestar social subóptimo.

En este escenario, consideraremos dos empresas y un grupo de candidatos con utilidades ocultas de . Para el proceso de contratación, cada empresa realizará una clasificación ruidosa de los candidatos y luego cada empresa (en un orden aleatorio) contratará al primer candidato disponible en su clasificación. Cada empresa puede optar por utilizar clasificadores humanos independientes o utilizar una clasificación algorítmica común.${\displaystyle S}$${\displaystyle n}$${\displaystyle x_{i}}$

El algoritmo de clasificación se modela como una distribución ruidosa sobre permutaciones parametrizadas por un parámetro de precisión .${\displaystyle {\mathcal {F}}_{\theta }}$${\displaystyle S}$${\displaystyle \theta >0}$

Para que tenga sentido debe satisfacer estas condiciones:${\displaystyle {\mathcal {F}}_{\theta }}$

1. Diferenciabilidad: La probabilidad de cada permutación es continua y diferenciable en${\displaystyle \pi }$${\displaystyle \theta }$
2. Optimalidad asintótica: Para la verdadera clasificación :${\displaystyle \pi ^{*}}$${\displaystyle \lim _{\theta \to \infty }Pr[\pi ^{*}]=1}$
3. Monotonía: La utilidad esperada del candidato mejor clasificado mejora a medida que aumenta, incluso si se elimina cualquier subconjunto .${\displaystyle \theta }$${\displaystyle S}$

Estas condiciones establecen que una empresa siempre debe preferir valores más altos de , incluso si no es la primera en el orden de selección.${\displaystyle \theta }$

Tanto los métodos de clasificación algorítmicos como los humanos tienen la forma de y difieren en los parámetros de precisión . El resultado de la clasificación algorítmica es corrotado: siempre produce la misma permutación. Por el contrario, una premutación clasificada por humanos se extrae de forma independiente para cada una de las empresas.${\displaystyle {\mathcal {F}}_{\theta }}$${\displaystyle \theta _{A},\theta _{H}}$${\displaystyle {\mathcal {F}}_{\theta _{H}}}$

Para las estrategias de la primera y segunda empresa, el bienestar social se define como la suma de las utilidades de los candidatos contratados.${\displaystyle s_{1},s_{2}\in \{A,H\}}$${\displaystyle W_{s_{1},s_{2}}}$

La paradoja de Braess en este marco es que las monoculturas subóptimas convergen. Es decir, el uso de la clasificación algorítmica es la estrategia dominante, por lo que converge hacia la monocultura, pero produce un bienestar subóptimo (el bienestar en un mundo sin clasificación algorítmica es mayor).${\displaystyle W_{A,A}<W_{H,H}}$

El teorema principal demostrado por Kleinberg ^[5] de este modelo es que para cualquier familia de clasificación ruidosa que satisfaga estas condiciones:${\displaystyle \theta _{H}}$${\displaystyle {\mathcal {F}}_{\theta }}$

1. Preferencia por la primera posición: Para todos si entonces .${\displaystyle \theta >0}$${\displaystyle \pi ,\sigma \sim {\mathcal {F}}_{\theta }}$${\displaystyle \mathbb {E} [\pi _{1}-\pi _{2}|\pi _{1}\neq \sigma _{1}]>0}$
2. Preferencia por una competencia más débil: Para todos .${\displaystyle \theta _{1}>\theta _{2},\sigma \sim {\mathcal {F}}_{\theta _{1}}and\ \pi ,\tau \sim {\mathcal {F}}_{\theta _{2}}:\mathbb {E} [\pi _{1}^{(-\sigma _{1})}]<\mathbb {E} [\pi _{1}^{(-\tau _{1})}]}$

Existe un factor tal que ambas empresas prefieren utilizar el algoritmo de clasificación de tiestos, aunque el bienestar social es mayor cuando ambas utilizan evaluadores humanos. En otras palabras, independientemente de la precisión de los evaluadores humanos, existe un algoritmo más preciso cuya introducción conduce a una convergencia de monocultivos subóptima.${\displaystyle \theta _{A}>\theta _{H}}$

Las implicaciones de este teorema son que, en estas condiciones, las empresas optarán por utilizar la clasificación algorítmica, aunque la naturaleza correlacionada de las monoculturas algorítmicas degrade el bienestar social total, aunque las clasificaciones algorítmicas sean más precisas.

La primera condición de (Preferencia por la primera posición) es equivalente a una preferencia de las empresas por tener una clasificación independiente (en nuestro contexto, no algorítmica). Esto significa que una empresa debería preferir métodos de clasificación independientes, siempre que todo lo demás sea igual.${\displaystyle {\mathcal {F}}_{\theta }}$

La intuición que sustenta la preferencia por una competencia más débil es que, cuando un candidato es eliminado (contratado por otra empresa), el mejor candidato restante tiene mejores expectativas cuando el candidato eliminado es elegido sobre la base de una clasificación menos precisa. Por lo tanto, una empresa siempre debería preferir que sus competidores sean menos precisos.

Estas condiciones se cumplen para las distribuciones del modelo de Mallows y algunos tipos de modelos de utilidad aleatoria (ruido gaussiano o laplaciano).${\displaystyle {\mathcal {F}}_{\theta }}$

• Comparación de sistemas operativos DOS
• Dominación de los clones
• Historia del hardware informático (década de 1960-actualidad)
• Compatible con IBM PC
• Arquitectura abierta
• PC-DOS
• Diversidad de software
• Cronología de los sistemas operativos DOS
• Wintel
• Conferencia de un investigador sobre la convergencia de monocultivos subóptimos