Quantcast
HEMEROTECA
             SUSCRÍBETE
ÚNETE ⮕

El manifiesto Rathenau: Los 10 requisitos para el diseño para la sociedad digital


  • Escrito por Rathenau Instituut
  • Publicado en Ciencia

En 1986 el gobierno holandés fundó el Nederlandse Organisatie voor Technologisch Aspectenonderzoek, ahora llamado Rathenau Instituut, con la tarea específica de investigar el impacto de la tecnología en nuestras vidas.

En los últimos dos años, el instituto Rathenau ha investigado sobre todo lo que envuelve la realidad virtual, las llamadas “tecnologías inmersivas”. La Realidad Virtual y la Realidad Aumentada nos transporta a un mundo completamente artificial, en el que todos los sonidos e imágenes son creados por ordenadores. La inmersión en este mundo digital plantea cuestiones sociales y políticas urgentes pues posee tres características que pueden derivar tanto en lo mejor como en lo peor. Estas son las tres características según el Manifiesto Rathenau:

La vigilancia biométrica: Para que las aplicaciones funcionen correctamente, las cámaras, los altavoces inteligentes, las gafas de RV y otros equipos necesitan grabar digitalmente partes de nuestros cuerpos y de nuestro entorno. Nuestros rostros, movimientos oculares, voces y comportamientos deben ser reconocidos y rastreados. Esto significa que la tecnología de inmersión nos monitorea constante y estrechamente. ¿Pero queremos que nuestras voces, nuestros rostros e incluso nuestras emociones sean observados y recogidos por muchas empresas, organizaciones y gobiernos?

Modificación digital: Con la ayuda de estos datos se puede crear el mundo digital. Puedes copiar, distorsionar u omitir rostros, voces o entornos vivos. De esta manera, tu voz puede ser clonada con una grabación de sólo unos pocos minutos. Con los filtros faciales de Snapchat cambiamos nuestra apariencia. Los videos Deepfake difunden una imagen distorsionada de la realidad. Siendo asi, ¿ Hasta qué punto podemos distinguir la realidad de la ficción?¿Nuestra sociedad será mejor si el mundo físico es manipulado digitalmente?

Influyendo a través de la interacción intuitiva: La tecnología inmersiva ofrece nuevas formas de controlar las computadoras e interactuar con el mundo digital. Hasta ahora, usábamos principalmente el teclado, el ratón y la pantalla. Ahora, podemos usar nuestras voces y movimientos. El funcionamiento de los dispositivos se vuelve más natural. Con las gafas VR nos sumergimos en mundos virtuales y con las gafas AR podemos ver y tocar monstruos virtuales u obras de arte en el mundo físico. Y así, a menudo sin darnos cuenta, nos sumergimos más profundamente en el mundo digital y las aplicaciones digitales pueden influenciarnos aún más. Sí, podemos hablar fácilmente con un asistente de voz pero ese asistente de habla también puede influenciarnos, convertirse en nuestro amigo, e incluso puede volverse adictivo para nosotros. Al final del día, el asistente de voz también sirve a los intereses de la persona que creó el asistente. Entonces, ¿hasta qué punto queremos sumergirnos?

El surgimiento de la tecnología de inmersión borra la frontera entre los humanos y las computadoras, entre lo físico y lo digital y entre lo falso y lo real. Como resultado, varios valores públicos están en juego, incluyendo la privacidad, la autonomía, la honestidad y la salud. Por eso, sobre la base de tres características el 22 de octubre el Rathenau Instituut ha presentado diez requisitos de diseño para la sociedad digital del mañana en forma de manifiesto. Diez exigencias que requieren una acción urgente y el diálogo de los gobiernos, las empresas y los ciudadanos, para que la tecnología inmersiva haga nuestro mundo más rico, no más pobre.

Los 10 requisitos para el diseño para la sociedad digital

Requisito de diseño 1. Queremos mantener el control de nuestro cuerpo digital

La tecnología inmersiva recoge constantemente datos sensibles e íntimos, como las grabaciones de nuestra voz, nuestros gestos o nuestra cara. Esto plantea numerosos riesgos de privacidad: nuestra voz y nuestra cara pueden ser literalmente robadas, y usadas para cometer fraude o dañar nuestra reputación. Además, nos sentiremos más escrutados que nunca, y adaptaremos nuestro comportamiento en consecuencia. ¿Seguimos sabiendo quién está mirando o escuchando, y cuándo? La protección de estos datos íntimos no está todavía en orden. Las autoridades públicas deben proporcionar una mejor protección legal de estos datos, en particular los datos biométricos, para que los ciudadanos puedan tener más control sobre sus datos corporales y de comportamiento.

Requisito de diseño 2. Queremos ser capaces de permanecer en el anonimato

El uso de la tecnología puede amenazar el anonimato de una persona tanto en espacios públicos como privados. La identidad de los transeúntes accidentales puede ser rastreada cada vez con mayor precisión y a una distancia cada vez mayor analizando su rostro, su comportamiento al caminar o su voz. Para ello, las grabaciones se comparan con bases de datos llenas de material de vídeo y audio que a menudo se eliminan de Internet. Algunos servicios de investigación ya hacen uso de esto. También hay aplicaciones de acceso público con las que se puede identificar a los demás. Si no tenemos cuidado, pronto estarán disponibles numerosas aplicaciones que permitirán a las empresas, gobiernos y ciudadanos eliminar simplemente su anonimato. Esta es una invasión inaceptable de la privacidad y la seguridad de las personas. Por lo tanto, deberían prohibirse las aplicaciones que permiten a los ciudadanos ser identificados a distancia en el dominio público.

Requisito de diseño 3. Queremos control sobre nuestra identidad virtual

Expresamos nuestra identidad a través de la tecnología de inmersión. Así como usamos prendas o tatuajes para distinguirnos en el dominio físico, también podemos hacerlo en el dominio virtual. Los avatares nos representan en la RV y con la RA podemos cambiar nuestra apariencia. Con algunas aplicaciones podemos incluso cambiar la apariencia de otras. Esto puede conducir a situaciones sociales muy indeseables y humillantes. Piensa, por ejemplo, en la aplicación DeepNude, que hace parecer los desnudos como reales. Por lo tanto, es esencial que el gobierno deje claro lo que se puede y no se puede hacer con la imagen de otra persona: las personas merecen protección contra las intervenciones digitales no deseadas en sus cuerpos.

Requisito de diseño 4. Queremos claridad sobre las nuevas cuestiones de propiedad digital

La tecnología inmersiva también plantea nuevas preguntas sobre la propiedad - de nuestras propiedades tanto en el mundo virtual como en el físico. ¿Quién es el dueño de los datos que están en los medios sociales? ¿Y de quién son las propiedades de los perfiles basados en estos datos? ¿De quién es la propiedad de una grabación de voz, una imagen o información sobre nuestra mirada? ¿Se viola nuestra propiedad cuando alguien se vale de la realidad aumentada para pintar una palabrota en la pared de nuestra casa? Por lo tanto, es necesario aclarar y actualizar los marcos legales existentes, con el principio de que lo que se aplica fuera de línea también se aplica en línea.

Requisito de diseño 5. Queremos vivir en un mundo digital inclusivo

El reto de hacer que nuestra sociedad digital sea inclusiva, sin discriminar por el género o el color de la piel, y sin fomentar los estereotipos, se ha debatido durante mucho tiempo. Este desafío se aplica particularmente a la forma en que la tecnología de inmersión adapta nuestra realidad. Por ejemplo, ya hay críticas sobre los juegos de RV y la pornografía, que fomentan los estereotipos y muestran invariablemente a los hombres blancos en el papel protagonista. Piense también en las aplicaciones de voz que entienden menos las voces femeninas que las masculinas, o en un fondo virtual que funciona peor cuando entra en escena alguien con un color de piel negro. Las empresas y los desarrolladores deberían poner la inclusión en el centro del desarrollo y el uso de sus aplicaciones.

Requisito de diseño 6. Queremos ser capaces de saber que algo es falso

La tecnología inmersiva puede confundir considerablemente a los usuarios. Por ejemplo, los niños que nadaron con orcas en la RV pensaron más tarde que realmente lo habían hecho. En el futuro, ¿sabrán que tienen un robot en línea? Debido a que la tecnología de inmersión está produciendo simulaciones cada vez más potentes, a largo plazo se hace difícil para los usuarios separar la realidad de la ficción. Con la tecnología inmersiva, la experiencia humana puede cambiar tanto que ya no sabemos si podemos confiar en nuestros ojos y oídos. Por lo tanto, los desarrolladores y las empresas deben acordar que los usuarios serán informados de antemano si algo es falso y no serán engañados.

Requisito de diseño 7. Queremos protección contra la manipulación y la persuasión

A través de la tecnología de inmersión, las personas pueden ser influenciadas y manipuladas. Los datos íntimos que recogen proporcionan a las empresas numerosos conocimientos sobre la personalidad, el comportamiento y las preferencias de una persona. Los espacios físico-virtuales también ofrecen nuevas oportunidades para la publicidad dirigida que puede responder a los deseos, las preferencias y las elecciones de una persona a nivel directo y subconsciente. Las empresas, los ciudadanos y los Estados tratan de orientar las percepciones de los ciudadanos de manera que acepten ciertos pensamientos o hagan ciertas elecciones. Piense en las profundas falsificaciones con las que los usuarios se bombardean unos a otros en los medios sociales, y en las teorías de conspiración que circulan en línea y que se apoyan en fragmentos de audio manipulados. Con la tecnología inmersiva, la propaganda adquiere nuevas formas - puedes hacer creer deliberadamente a otras personas en una realidad diferente. Por eso se necesita un compromiso de toda la sociedad, con contribuciones del periodismo independiente, inversión en las habilidades mediáticas de los ciudadanos y acuerdos claros sobre el grado en que se puede ejercer influencia.

Requisito de diseño 8. No queremos que nuestra salud se vea perjudicada

La tecnología inmersiva puede mejorar nuestra salud, pero también puede dañarla. Puede enseñar a la gente nuevas habilidades, darles poder, y acelerar y reducir el costo del aprendizaje. Pero las terapias con RV y RA están todavía en las primeras etapas - todavía no hay suficiente conocimiento de los riesgos que implica el uso de la tecnología, y de sus efectos a largo plazo. En casos extremos, se sabe que las aplicaciones de la RV y la RA llevan a la adicción. Las aplicaciones de RA, en particular, también parecen plantear riesgos con respecto a la seguridad física. Por ejemplo, los jugadores del popular juego móvil Pokémon GO han causado repetidamente accidentes de tráfico (mortales). Es necesario investigar más sobre los efectos negativos, y las empresas deben hacer más para proteger a los usuarios de estos efectos.

Requisito de diseño 9. Queremos un mercado digital con un equilibrio justo de poder

En los últimos 20 años, un pequeño número de compañías tecnológicas se han convertido en poderosos gigantes comerciales que dominan la economía de Internet. Esto también se aplica al mercado de AR, VR y tecnología de voz. Piensa, por ejemplo, en los asistentes de voz Google Assistant y Amazon Alexa. Tienen un gran poder en relación con los consumidores - como consumidores, traten de hacer responsable a Google o Facebook. También tienen poder sobre los recién llegados al mercado, que a menudo compran rápidamente. Y su poder de mercado se traduce en última instancia en poder político: los gigantes internacionales pueden influir fuertemente en los gobiernos nacionales y, con sus medios de comunicación social, desempeñan un papel clave en el debate político. Por eso el gobierno debe contrarrestar el poder de las grandes empresas tecnológicas de manera más eficaz. Y las empresas deben asumir más responsabilidad para proteger los derechos de los consumidores.

Requisito de diseño 10. Queremos que los espacios públicos sigan siendo públicos

La tecnología inmersiva ejerce presión sobre el carácter comunitario del espacio público. En primer lugar, porque a la gente se le da la oportunidad de ver los espacios públicos a través de gafas digitales personales - ya hemos escrito sobre una aplicación que saca a los sin techo de la vista de la calle. Esto socava la cohesión social y refuerza la fragmentación social que ya se puede ver. En segundo lugar, los desarrolladores comerciales de RA pueden liberar tantas capas virtuales y aplicaciones en un espacio público que ya no es un lugar para todos. Piensa, por ejemplo, en una playa de Pokémon Go a la que se le asignaron tantos Pokémon que fue inundada por los fans de Pokémon. Debe haber reglas claras para las expresiones digitales en los espacios públicos para que se conserve lo común. Esto requiere el desarrollo de una nueva etiqueta social: ¿cómo nos tratamos decentemente en este nuevo mundo?

La implementación de estos diez requisitos para el diseño de una sociedad digital es muy necesaria para su desarrollo. Pero esto es sólo el comienzo. Por eso terminamos con un llamamiento al ciudadano: hazte oír y habla sobre lo que necesitas en el mundo digital de mañana. No debemos abandonar nuestro destino digital. Como ciudadanos democráticos, debemos determinar nuestro futuro digital por nosotros mismos.

Fuente: Rathenau Instituut