Google parece no poder dejar de chocar con sus propios investigadores de IA

Otro miembro del personal que cuestionó la ética de la investigación está fuera

A medida que el desarrollo del aprendizaje automático alcanza una etapa crítica en la que las decisiones que se toman sobre la investigación actual pueden tener efectos vastos y no controlados para toda la vida, Google se encuentra bajo fuego ético después de haber despedido a un investigador de su unidad Brain que quería cuestionar los hallazgos de un artículo que otros Los Googlers escribieron sobre los beneficios del diseño de chips asistido por IA.

El trasfondo de esta historia, como informa The New York Times de sus fuentes, involucra un artículo anterior sobre la misma tecnología publicado en 2020. Google le pidió al Dr. Satrajit Chatterjee que trabajara para llevar la tecnología a los fabricantes de chips para su venta o licencia. Chatterjee, sin embargo, expresó su preocupación por algunas de las afirmaciones hechas y si se habían probado a fondo. Mientras se discutían las quejas, los nombres de dos de los coautores del artículo que tenían preocupaciones similares se eliminaron en una revisión posterior que se realizó como parte del lanzamiento de Google a Nature para lo que sería el artículo de 2021 en cuestión. Algunos observadores dijeron que la revisión no fue examinada adecuadamente a través de un proceso de aprobación que la compañía creó después de que despidió al Dr. Timnit Gebru (a través de Wired) y Margaret Mitchell (a través de The New York Times), líderes en la rama de ética de IA de Google que también tenían dudas sobre la dirección de la empresa en la investigación.

ANDROIDPOLICE VÍDEO DEL DÍA

Después de que se publicó el artículo de Nature (PDF obtenido por The Verge), Google permitió que Chatterjee y otros investigadores opuestos tuvieran la oportunidad de redactar un artículo de refutación. La refutación fue sometida a un comité de arbitraje interno y fue rechazada meses después. Los investigadores opuestos pidieron elevar el problema a la junta directiva de Alphabet, diciendo que la decisión de no publicar la refutación violaba los propios principios de la compañía. Poco después, Chatterjee fue despedido.

Google confirmó al Times que despidió a Chatterjee con causa y respalda los hallazgos de sus documentos. El vicepresidente de Google Research, Zoubin Ghahramani, también mencionó que la compañía investigó las afirmaciones planteadas en una «presentación posterior» que finalmente «no cumplió con nuestros estándares de publicación».

Anna Goldie, una de las dos autoras principales del artículo de Nature, dijo que las revisiones del artículo de 2020 no necesitaban ser examinadas bajo el proceso de aprobación completo. También afirma que Chatterjee se acercó a ella y al coautor principal sobre la gestión del proyecto en 2019 y que se negaron y que ella abordó sus preocupaciones sobre su investigación con evidencia, pero fue ignorada. Goldie acusó a Chatterjee de una «campaña de desinformación».

El abogado de Chatterjee criticó a Jeff Dean, vicepresidente sénior de Google Research, por sus «acciones para reprimir la publicación de todos los datos experimentales relevantes, no solo los datos que respaldan su hipótesis favorita». […]»

Los métodos descritos en el artículo de Nature se promocionan para generar planos de planta de chips en menos de 6 horas en lugar de los meses que los humanos tardan en hacer lo mismo. Pero si bien los resultados aún tienen que hablar por sí mismos en la práctica más amplia, está bastante claro que hay mucho por lo que pelear cuando se trata de cómo se fabrican los chips, y cualquier producto derivado de la inteligencia artificial.

En una declaración a Android Police, Google dijo que no tenía nada más que compartir en este momento, pero nos dirigió a un tweet de uno de los coautores de la historia del Times, Daisuke Wakabayashiresumiendo la historia.

Tenet en blanco y negro granulado en Playdate es justo el tipo de troleo que Christopher Nolan ha estado pidiendo

Leer siguiente

Sobre el Autor