Los valores del mundo digital
Las universidades tienen prisa por impartir cursos sobre ética de las ciencias de la computación.
Los profesionales de la salud tienen una ética: primero, no provoques daño. Silicon Valley tiene un sistema de valores: crea primero y después pide disculpas.
Ahora, tras el auge de las noticias falsas y otros problemas que están padeciendo las empresas tecnológicas, las universidades de donde egresaron algunos de los mejores tecnólogos de Silicon Valley se están dando prisa para llevar a las ciencias de la computación una moralidad parecida a la que tiene la medicina.
Este semestre, la Universidad de Harvard y el Instituto Tecnológico de Massachusetts (MIT, por su sigla en inglés) están ofreciendo de manera conjunta un nuevo curso en ética y regulación de la inteligencia artificial. La Universidad de Texas en Austin acaba de introducir una asignatura titulada “Fundamentos éticos de las ciencias de la computación”, con la idea de que con el tiempo sea una materia en todas las licenciaturas de Ciencias de la Computación.
Y en la Universidad Stanford, el corazón académico de la industria, tres profesores y un investigador adjunto están desarrollando un curso de ética de las Ciencias de la Computación para el próximo año. Esperan que haya cientos de alumnos inscritos.
La idea es capacitar a las próximas generaciones de tecnólogos y legisladores para que consideren las consecuencias de las innovaciones –como las armas autónomas o los vehículos inteligentes– antes de que los productos salgan a la venta.
“El objetivo es encontrar o identificar los problemas a los que se enfrentarán los estudiantes que se gradúen dentro de dos, tres, cinco o diez años”, afirmó Mehran Sahami, un popular profesor de Ciencias de la Computación de Stanford que está colaborando en el desarrollo del curso. Sahami es famoso en el campus por haber llevado a clase a Mark Zuckerberg.
“La tecnología no es neutral”, explicó Sahami, quien trabajó como investigador sénior para Google. “Por lo tanto, las decisiones que se toman al momento de crear tecnología conllevan ramificaciones sociales”.
Los cursos están surgiendo en un momento en el que las grandes empresas tecnológicas tienen problemas para manejar los efectos secundarios que conlleva la mentalidad que tiene la industria de crear primero: las noticias falsas en Facebook, los seguidores falsos en Twitter, videos lascivos de niños en YouTube. Son un desafío abierto a una actitud común de Silicon Valley que por lo general ha desestimado la ética al percibirla como un obstáculo.
“Necesitamos al menos enseñar a las personas que la idea de hacer las cosas rápido y romperlas tiene un lado oscuro”, señaló Laura Norén, una becaria posdoctoral del Centro de Ciencias de Datos de la Universidad de Nueva York, quien este semestre comenzó a dar un nuevo curso de ética de la ciencia de datos. “Se puede parchar el software, pero no se puede parchar a una persona si tú dañas su reputación”.
Los programas de Ciencias de la Computación deben garantizar que los estudiantes comprendan los problemas éticos relacionados con la computación para que los avale el ABET, un grupo mundial de acreditación para programas de ciencia e ingeniería a nivel universitario. Algunos departamentos de Computación han desdoblado el tema a una asignatura más amplia y otros tienen cursos independientes.
Sin embargo, no fue sino hasta hace poco tiempo que la ética pareció relevante para muchos estudiantes. “En comparación con los choferes o los doctores, tu interacción diaria con los daños físicos, la muerte o el dolor es mucho menor si estás escribiendo el software para una aplicación”, señaló Joi Ito, director del MIT Media Lab.
Una razón para que las universidades estén impulsando la ética de la tecnología en este momento es la popularización de herramientas poderosas como el aprendizaje automático: algoritmos de computadora que pueden aprender tareas de forma automática tras analizar grandes cantidades de información. Debido a que esas herramientas básicamente podrían alterar la sociedad, las universidades se están apurando para ayudar a los estudiantes a entender las consecuencias potenciales, comentó Ito, quien también está impartiendo el curso de ética de Harvard y el MIT.
“Empezamos a ver cosas –como los vehículos autónomos– que claramente tienen la capacidad de salvar a la gente, pero también de provocar daños; creo que las personas se están sumando cada vez más para construir un sistema ético”, explicó (Ito es uno de los consejeros de The New York Times Company).
