Скрытая переменная

Аналитик данных Регина Ковалёва два года разрабатывала алгоритм отбора резюме для крупной компании.

La analista de datos Regina Kovaliova llevaba dos años desarrollando un algoritmo de selección de currículums para una gran empresa.

Алгоритм должен был экономить время рекрутёров, автоматически отсеивая заведомо слабые анкеты.

El algoritmo debía ahorrarles tiempo a los reclutadores, descartando automáticamente las solicitudes claramente débiles.

Проверяя промежуточные результаты, Регина заметила, что кандидаты старше сорока пяти лет получают заниженные баллы.

Al revisar los resultados intermedios, Regina notó que los candidatos mayores de cuarenta y cinco años recibían puntuaciones más bajas.

Формально возраст никогда не был параметром модели, но алгоритм косвенно учитывал его через стаж и даты окончания вуза.

Formalmente, la edad nunca había sido un parámetro del modelo, pero el algoritmo la tenía en cuenta de forma indirecta a través de la antigüedad laboral y las fechas de graduación.

Регина понимала: без явного упоминания возраста доказать дискриминацию будет крайне сложно.

Regina entendía que, sin una mención explícita de la edad, demostrar la discriminación sería extremadamente difícil.

Руководитель проекта настаивал на запуске алгоритма в срок, обещанный инвесторам ещё в прошлом квартале.

El director del proyecto insistía en lanzar el algoritmo dentro del plazo prometido a los inversores desde el trimestre anterior.

Он предложил Регине просто убрать из отчёта пункт о возрастном перекосе и разобраться с этим позже, "на следующей итерации".

Le propuso a Regina simplemente quitar del informe el punto sobre el sesgo de edad y ocuparse de ello más tarde, "en la siguiente iteración".

Регина знала: команда из пятнадцати человек месяцами не спала ради этого запуска, и задержка ударит по всем.

Regina sabía que un equipo de quince personas llevaba meses sin dormir bien por este lanzamiento, y el retraso afectaría a todos.

Но она также знала, что тысячи реальных кандидатов старше сорока пяти лет будут терять работу из-за скрытой ошибки.

Pero también sabía que miles de candidatos reales mayores de cuarenta y cinco años perderían oportunidades de trabajo por culpa de un error oculto.

Регина подготовила два документа: технический отчёт о найденной проблеме и предложение по её устранению за две недели.

Regina preparó dos documentos: un informe técnico sobre el problema detectado y una propuesta para solucionarlo en dos semanas.

Она отправила оба документа не только руководителю проекта, но и юридическому отделу компании.

Envió ambos documentos no solo al director del proyecto, sino también al departamento jurídico de la empresa.

Руководитель был разгневан, но юристы настояли на исправлении алгоритма перед запуском.

El director se puso furioso, pero los abogados insistieron en corregir el algoritmo antes del lanzamiento.

Регина поняла: её работа заключалась не в том, чтобы угождать срокам, а в том, чтобы система действительно была справедливой.

Regina comprendió que su trabajo no consistía en complacer los plazos, sino en asegurarse de que el sistema fuera realmente justo.