Basándonos en los hallazgos de este trabajo de investigación, sintetizamos cinco principios para guiar el diseño, desarrollo y uso de los servicios públicos digitales: 1) respeto por la privacidad individual, 2) manejo efectivo de los datos y uso seguro de los datos recopilados, 3) capacidad de explicación de las decisiones automatizadas, 4) buen propósito y equidad, y 5) consenso social y cumplimiento de la ley. El marco propuesto se centra en temas relacionados con los servicios públicos digitales y se alinea con otros marcos éticos existentes y los extiende, como los que se mencionan en la sección 2.4. Especialmente, el primer principio está directamente vinculado al principio de privacidad de ética de la información. El segundo se ocupa directamente de la calidad y la seguridad de los datos recopilados, que está parcialmente relacionado con los principios de privacidad y acceso a la información definidos por Ética de la Información. El tercero, extiende el principio de responsabilidad definido por el Informe sobre Ética Robótica de COMEST, mientras que el cuarto se centra en no causar daño. Finalmente, el último se refiere a cuestiones relacionadas con la buena gobernanza y la legalidad, generalmente presentes en todos los marcos éticos. Los principios se explican a continuación:
Respeto por la privacidad individual
Las nuevas tecnologías permiten a actores públicos y no públicos recopilar de un modo dominante y silencioso cantidades masivas de información de los individuos. Para asegurar el cumplimiento con el Principio D (derechos humanos) de los Principios DAAP, la información recopilada a través de los servicios digitales debe respetar la privacidad del individuo. Además, y a pesar de que, en algunos casos, el sistema que recopila los datos solicita que el usuario preste su consentimiento, muchas personas no tienen la capacidad de comprender ni la política que se les solicita firmar, ni las consecuencias del consentimiento que prestan. Más aún, generalmente, ignoran totalmente los datos personales que están brindando. Por lo tanto, por un lado, las instituciones públicas y privadas deben solicitar el consentimiento para recopilar datos personales y otros tipos de datos de los usuarios de servicios digitales. Los gobiernos deben aplicar su capacidad e invertir en esfuerzos para asegurar que los ciudadanos comprenden los procedimientos usados para recopilar sus datos. Dichos esfuerzos se alinean con la satisfacción del Principio A (accesibilidad) de los Principios DAAP. Por otro lado, los individuos deben tener derecho a saber qué datos personales se está recopilando, para qué propósitos, y cómo dichos datos se usarán posteriormente. Además, las estadísticas abiertas publicadas a partir de los datos recopilados deben garantizar el anonimato.
Manejo efectivo y seguro de los datos recopilados.
Las relaciones gobierno-ciudadanos y gobierno-industria se caracterizan por una desconfianza doble: los gobiernos no confían en los ciudadanos y en la industria, y los ciudadanos y la industria no confían en los gobiernos. Por parte de los gobiernos, esto se refleja en una vasta cantidad de datos requeridos a los destinatarios de los servicios públicos. Por otro lado, los ciudadanos y las industrias son reacios a brindar abiertamente datos a los gobiernos, a quienes pagan impuestos esperando ser bien servidos. Al mismo tiempo, brindan inadvertidamente muchos datos relevantes y sensibles a empresas privadas cuyo fin último es obtener ingresos a partir de la información de los usuarios. Por lo tanto, garantizar el manejo efectivo de los datos, tanto por parte de las instituciones públicas como de las privadas, podría servir para crear confianza entre los actores sociales. Particularmente en el sector público, un manejo efectivo de los datos requerirá observancia de los compromisos adquiridos entre varias partes interesadas, i.e. una gobernanza de la información apropiada, y esto se refiere al principio P (enfoque de participación multisectorial) de los Principios DAAP. Adicionalmente y como parte de la ética apropiada para el manejo de datos, los datos deben usarse solamente para los propósitos para los que fueron recopilados. Si se conciben nuevos escenarios de uso, aquel que recopile los datos deberá solicitar el consentimiento del ciudadano. Además, los gobiernos deben asegurar que los datos recopilados por ellos estén asegurados tanto por ellos como por terceros. Esto significa que los datos no sean copiados ni alterados por una tercera parte, y se permita el acceso solo a actores autorizados, sean usados correctamente, y sean destruidos cuando el propósito original para el que se recopilaron cese de existir.
Capacidad de explicación de las decisiones automatizadas
Los algoritmos automatizados, sea que aplican técnicas de inteligencia artificial o no, que se implementan como parte de los sistemas de información usados para ofrecer servicios públicos deben ser transparentes y deben rendir cuentas. Esto significa que debe ser posible explicar a terceros los criterios aplicados para tomar decisiones automatizadas, y diferentes actores deben poder inspeccionar los algoritmos de software, si fuera necesario, i.e. el código de software debe estar abierto a inspección, cuando sea solicitado. Además, los datos y las fuentes de datos usados por los algoritmos automatizados deben ser conocidos. Todo esto se refiere a un contenido abierto, lo que significa que los algoritmos automatizados y sus datos, que incluyen fuentes de datos, deben estar disponibles, siempre que los marcos legales existentes, especialmente considerando los derechos de propiedad intelectual, y las restricciones de licencias sean respectados. La capacidad de explicación del principio de decisiones automatizadas se relaciona con el principio A (Apertura) de los Principios DAAP.
Buen propósito y equidad
Las nuevas tecnologías aplicadas por las instituciones públicas y los servicios nuevos innovadores que ofrezcan, tanto las instituciones públicas o bajo su ámbito de influencia, deben estar al servicio de buenos propósitos y asegurar que no se cause ningún daño a los individuos y a la sociedad en su totalidad. Especialmente, los servicios digitales y los datos recopilados y usados para ofrecer dichos servicios deben garantizar que no causan daño físico a los individuos, y no conducen a ningún tipo de daño, lo cual incluye la pérdida de credibilidad, prestigio social y perfil fiduciario. Además, el principio de equidad debe garantizarse para los servicios públicos digitales, de modo que los individuos tengan el mismo derecho de acceder a los servicios públicos y beneficiarse a partir de ellos. Todos estos requisitos se alinean con el Principio D (derechos humanos) de los Principios DAAP.
Consenso social y cumplimiento legal
Tal como se explicó, la ética depende de la cultura y en el nivel más bajo, depende de los individuos. Por lo tanto, tiene un rol clave en la creación de consenso en la sociedad sobre principios éticos centrales para el nuevo mundo digital. Por esa razón, los gobiernos sí tienen la responsabilidad de buscar la participación de los ciudadanos para discutir ampliamente cuestiones que tienen influencia en sus vidas cotidianas y que tendrán influencia en su futuro. Del mismo modo, deben involucrar a diferentes actores sociales, como los círculos académicos, la industria, las organizaciones no gubernamentales, y otros actores centrales, para crear consenso sobre el sistema de valores de la sociedad relativo a las tecnologías emergentes. Todos esos esfuerzos requerirán un gobierno con participación multisectorial efectivo. Por lo tanto, está directamente vinculado al principio P (gobierno multisectorial) de los Principios DAAP. Además, los gobiernos deben asegurar que dichos esfuerzos se alineen y respeten parámetros internacionales, como los definidos como parte de la Gobernanza de Internet. Debe garantizarse el cumplimiento de los principios, basados en el consenso alcanzado, mediante un marco legal definido para satisfacerlos.