Microsoft puede presumir de haber sido una de las primeras empresas en poner sobre la mesa la necesidad de adoptar criterios éticos en el uso y desarrollo de la inteligencia artificial. El propio Satya Nadella, CEO de la compañía, dio una conferencia a finales de 2016 defendiendo la "democratización de la IA", y tan sólo un año después impulsó la creación del comité interno llamado AETHER (siglas 'AI and Ethics in Engineering and Research').
El siguiente paso parecía obvio: nombrar un cargo interno encargado a tiempo completo de supervisar esta clase de políticas. Así, Tim O'Brien, que llevaba 15 años trabajando en Microsoft en cargos como el de director general de comunicaciones (que aún conserva, compatibilizándolo con el nuevo) se convirtió así en el primer "Microsoft advocate for AI policy & ethics".
Desde entonces, varias compañías han seguido su ejemplo (o lo han intentado: las disputas políticas internas obligaron hace poco a Alphabet a posponer 'sine die' la creación de su equivalente a AETHER).
La labor de O'Brien
Pero ¿a qué se dedica exactamente un responsable de Ética de la IA de una gran compañía de Silicon Valley? Thomas H. Davenport, autor del libro 'The AI Advantage' y colaborador del MIT entrevistó recientemente a O'Brien para preguntárselo.
O'Brien explica que desde que asumió en cargo en mayo de 2018, su actividad en este campo se ha traducido sobre todo en dar conferencias, reunirse con clientes de la compañía y estar en contacto directo con investigadores y analistas expertos en este campo.
Reconoce que su trabajo se basa en el discurso del presidente de la compañía, Brad Smith. Éste lleva años defendiendo la importancia de la vertiente ética de la tecnología, pero su cargo le resta mucho tiempo, y O'Brien asume el papel de 'altavoz' de sus ideas, sobre todo en aspectos como la lucha contra el sesgo algorítmico o por la transparencia de los modelos de IA.
O'Brien afirma, además, que la IA ha sido "la chispa que ha encendido la ética en el campo de la tecnología", pues los debates éticos en torno a la misma sea han ampliado a tecnologías colindantes, como el Internet de las Cosas o la realidad virtual y aumentada.
De los jesuitas a los estudios etnográficos
La primera sorpresa es que O'Brien declara no disponer de formación específica alguna en el campo de la Filosofía o la Teología (aunque sí deja caer que fue a un colegio jesuita).
Sus propias inquietudes en ese campo surgieron a raíz de sus viajes por todo el mundo en su faceta de director general de comunicaciones: desde esa perspectiva, pudo comprobar que no bastaba con dejar esa clase de problemas en manos de los firmas de abogados, porque la política y las tendencia tecnológicas (adopción del big data, el giro hacia la nube...) estaban empezando a colisionar.
Sus viajes, además, le ayudaron a comprender que cada sociedad parte de perspectivas muy diferentes sobre los dilemas éticos que plantea la IA: por ejemplo, en lo relativo al reconocimiento facial, hay sociedades más predispuestas a verse expuestas al mismo (como la china, por la importancia que el neoconfucianismo da a la preservación del orden social) y otras que tienden a rechazarlo (como la alemana, por el recuerdo de la vigilancia masiva de la Stasi).
Por ello, una de los proyectos iniciados por O'Brien ha consistido en encargar un análisis etnográfico que permita a Microsoft contar con un 'mapa' de dichas actitudes.
O'Brien se muestra convencido, por último, de que Microsoft terminará dotándose de un 'corpus' completo de políticas sobre cómo enfocar el uso de la IA y de tecnologías similares; y que el primer paso para ello fue la declaración realizada por Smith en el blog corporativo de la compañía sobre los criterios a seguir para la venta de tecnología de reconocimiento facial.
Vía | MIT Sloan Management Review
Imagen | Official LeWeb Photos
También te recomendamos
-
La noticia Tim O'Brien, de Microsoft, explica en qué consiste su labor como responsable de Ética de la Inteligencia Artificial de la compañía fue publicada originalmente en Xataka por Marcos Merino .
Gracias a Marcos Merino
No hay comentarios.:
Publicar un comentario