Este trabajo de investigación analiza cuestiones éticas relacionadas con los servicios digitales, identifica principios éticos y proporciona recomendaciones sobre políticas asociadas a la aplicación de las tecnologías emergentes para ofrecer servicios digitales en el contexto de las ciudades inteligentes. Contribuye al Objetivo Estratégico 4 del Plan Estratégico del Programa Información para Todos (PIPT) de la UNESCO (UNESCO PIPT, 2017) ya que “crea consciencia sobre cuestiones éticas relacionadas con la información”. Fue producido por la Cátedra UNESCO en Sociedades del Conocimiento y Gobernanza Digital de la Universidad Nacional del Sur, Argentina, que respalda el PIPT de la UNESCO.
El trabajo identifica cuestiones éticas relacionadas con los servicios digitales mediante el análisis de siete escenarios: 1) el uso de drones, 2) los automóviles autónomos, 3) los diagnósticos médicos automatizados, 4) la inteligencia artificial aplicada en sentencias judiciales, 5) las aplicaciones que recogen datos relacionados con la salud, 6) los avisos publicitarios personalizados y 7) los asistentes inteligentes para casas inteligentes; y mediante la recopilación de opiniones de cinco expertos reconocidos en el campo. En particular, el trabajo identifica ejemplos de tecnologías emergentes que se aplican en los distintos escenarios, los beneficios que se obtienen de su aplicación y las amenazas relacionadas con la mala utilización y el uso abusivo. En síntesis, el trabajo documenta 33 desafíos relacionados con los servicios digitales (tal como se sintetiza en la sección 4.8), propone cinco principios éticos (tal como se describe en la sección 6) y sintetiza seis recomendaciones de políticas (tal como se explica en la sección 7).
Los principales desafíos éticos asociados a los servicios digitales se refieren a la violación de la privacidad con respecto a los datos personales, la falta de conciencia del individuo para dar a conocer datos personales, la mala utilización de los datos suministrados, la falta de capacidad de explicación de los algoritmos que implementan procesos de toma de decisiones automatizados o en otras palabras la garantía de transparencia y la rendición de cuentas de los algoritmos, la atribución de responsabilidad por la toma de decisiones automatizadas, el tratamiento del sesgo existente en los datos usados en los algoritmos de software, la necesidad de asegurar el manejo eficiente de los datos, la falta de capacidad humana para tomar decisiones informadas en relación al uso de la tecnología, el riesgo de manipulación de las opiniones del usuario, el riesgo de polarización de la sociedad y la falta de consenso social para hacer valer principios éticos basados en el sistema de valores de la sociedad.
Los cinco principios éticos propuestos para respaldar el diseño y la oferta de servicios digitales incluyen:
- P1) El respeto a la privacidad del individuo.
- P2) El manejo efectivo de los datos y el uso seguro de los datos recopilados.
- P3) La capacidad de explicación de las decisiones automatizadas.
- P4) Buen propósito y equidad.
- P5) El consenso social y el cumplimiento de la ley.
Se sintetizaron las siguientes seis recomendaciones sobre políticas a implementar:
- R1) Institucionalizar la definición y el cumplimiento de principios éticos en los servicios públicos digitales.
- R2) Concientizar a los ciudadanos sobre los datos personales y su utilización y mala utilización en los servicios digitales.
- R3) Fomentar la participación de los ciudadanos en la definición de principios éticos en los servicios públicos digitales.
- R4) Definir criterios y pautas sobre el manejo de datos personales para instituciones gubernamentales.
- R5) Definir cursos universitarios que puedan dictarse a estudiantes de varias disciplinas para desarrollar competencias relacionadas con la ética para el mundo digital.
- R6) Fomentar la conciencia y la colaboración internacional en los servicios digitales.