fbpx
Conecta con nosotros

Tecnología

Cómo gobernar los algoritmos (en lugar de que lo hagan ellos)

Avatar

Publicado

el

 

Desde 2018 el debate sobre los sesgos y efectos perversos de los algoritmos cobra cada día mayor importancia. Fue entonces cuando salió a la luz el caso de la empresa británica Cambridge Analytica, que utilizó datos privados obtenidos de Facebook para intentar influir en las elecciones. Esto nos hizo reflexionar sobre los riesgos de aplicar algoritmos personalizados que explotan las características psicológicas del individuo con fines políticos.

En palabras de Chris Wylie, el exempleado de la empresa que destapó el caso:

“En lugar de estar en la plaza pública, decir lo que piensas y luego dejar que la gente venga, te escuche y tenga esa experiencia compartida de lo que es tu narrativa, estás susurrando en los oídos de todos y cada uno de los votantes. Y puedes susurrar una cosa a uno y otra diferente a otro”.

Esta experiencia, generalizada pero no compartida, es llamada filter bubble o echo chamber (burbuja de filtro o cámara de eco, en español). El término evidencia cómo las mismas tecnologías que nos conectan también nos aíslan en burbujas informativas que refuerzan determinadas opiniones y nos hacen cada vez más vulnerables a la manipulación.

El caso de Cambridge Analytica forma parte de un conjunto de intentos de manipulación masiva de la opinión pública a través de ingeniería social, que Facebook denomina Information Operation (Operación Información). Es decir, acciones emprendidas por actores organizados (gobiernos u organismos no estatales) para distorsionar los sentimientos políticos de la población, al fin de lograr algún resultado estratégico y geopolítico específico.

Capitalismo de vigilancia


La psicóloga social Shoshana Zuboff, en su libro The age of surveillance capitalism (La era del capitalismo de vigilancia), nos habla de forma más articulada de algo que ya intuíamos: que la manipulación de opiniones y comportamientos es parte integrante del capitalismo basado en la vigilancia digital.

En este contexto, el dato, sobre todo el de carácter personal, juega un papel clave por dos razones. La primera es que forma parte de la base de la economía digital, el modelo de desarrollo económico más prometedor que tenemos. La segunda, que su análisis permite orientar el comportamiento colectivo, cada vez a mayor escala y de forma más rápida.

Por desgracia, el requisito básico de cada sistema informático que sea capaz de escalar conlleva la amplificación exponencial del riesgo de un posible fallo. La matemática Cathy O'Neil hablaba en 2017 de armas matemáticas de destrucción masiva (Weapons of Math Destruction) para enfatizar la escala, el daño potencial y la opacidad de los sistemas de toma de decisión basados en algoritmos de aprendizaje automático (machine learning).

El profesor de Derecho y experto en inteligencia artificial Frank Pasquale habla del problema de introducir mecanismos de rendición de cuentas (que buscan la equidad y la identificación de responsabilidades) en los procesos automatizados, en lugar de tratar esos procesos como una caja negra. Así, se esconden tras los derechos propietarios de las empresas privadas que los han desarrollado.

Solon Barocas, que investiga las cuestiones éticas y políticas de las inteligencias artificiales, hablaba en 2013 de la “gobernanza de los algoritmos” y de la necesidad de cuestionar estos artefactos y analizar sus efectos desde una perspectiva legal y de políticas públicas.

El congreso FAT*, cuya tercera edición se celebrará en Barcelona en enero de 2020, se ha convertido en el encuentro de referencia para los que quieren abordar cuestiones de transparencia, justicia y rendición de cuentas de los sistemas automatizados.

Europa vs. EE UU


En Europa, el artículo 22 del Reglamento General de Protección de Datos (RGPD) nos obliga a garantizar que haya supervisión humana y derecho de apelación de las decisiones tomadas por sistemas automáticos y de perfilado (profiling).

En EE UU, fallos como la incapacidad de algoritmos, entrenados con bases de datos con una sobrerrepresentación de fotos de personas blancas, para identificar a personas de color, también motivan la voluntad de abrir y auditar estos sistemas.

Estos casos, junto a otros más inquietantes en el ámbito jurídico y policial, han sido tomados como ejemplos de la falta de sensibilidad entre los programadores sobre las cuestiones raciales y de género. Así lo argumentan Sarah Myers West, Meredith Whittaker y Kate Crawford en el libro blanco Discriminating Systems: Gender, Race, and Power in AI (Sistemas discriminatorios: género, raza y poder en las IA).

La publicación está en línea con otros autores como Andrew Selbst, que investiga los efectos legales de los cambios tecnológicos. Pretende llamar la atención sobre la necesidad de contextualizar cualquier discurso sobre desarrollo tecnológico y analizarlo como sistema tecnosocial, como ya hacen los estudios de ciencia, tecnología y sociedad.

La automatización de procesos de decisión conlleva un gran desafío técnico, legal, de gestión corporativa y moral. Esto ocurre en todas las áreas, que van desde la detección de noticias falsas y fraudes hasta el diagnóstico médico y la encarcelación de sospechosos. Por ello, es necesaria la creación de un espacio de dialogo multidisciplinar.

Los sistemas de inteligencia artificial siempre serán producto de los sesgos, la heurística y los puntos ciegos de los programadores . Abrir un debate sobre qué valores queremos grabar en nuestros sistemas para que la humanidad florezca es responsabilidad de todos.

Este artículo fue publicado originalmente en The Conversation. Lea el original.

Tecnología

Blockchain y la democracia digital: ¿Descentralización o acto de fe?

Avatar

Publicado

el

Pixabay

Hoy ya no podemos imaginar nuestra sociedad sin las tecnologías de la información y de las comunicaciones (TIC). Cuando estas no funcionan tenemos dificultades para viajar, no podemos leer el correo electrónico e incluso nuestra vida puede correr peligro. Necesitamos confiar en estas tecnologías, y para ello es necesario un plan que las proteja y garantice su fiabilidad. Blockchain nace con este objetivo.

Blockchain surgió junto al Bitcoin para sustituir a los bancos centrales. Se trata de una alternativa al concepto clásico de tercera parte de confianza (TTP, Trusted Third Party). Un banco central es un tipo de TTP que da fe del dinero que posee un cierto agente, y que valida los intercambios de dinero entre individuos y organizaciones.

¿Qué es eso de la TTP?


Si Antonio quiere enviar a Beatriz información, deberá utilizar un canal de comunicación que le permita estar seguro de que en el otro extremo del canal está Beatriz. Tradicionalmente se ha utilizado una TTP para construir el aval que Antonio necesita. Una vez se cuenta con ese aval, por ejemplo, se puede utilizar la criptografía de clave simétrica para enviar y recibir información sin interceptación por terceras partes que no son de confianza.

Esta posición privilegiada de las TTP entraña un doble riesgo:

  1. Una TTP puede ser atacada. Esto permitiría el acceso a información confidencial por un agente no autorizado, como ha ocurrido con la filtración de contraseñas de usuarios, el acceso a información privada por fallos de control de acceso y la suplantación de la TTP por ingeniería social.
  2. Una TTP puede utilizar su posición de privilegio y, sin nuestro permiso, analizar nuestra actividad y extraer patrones de comportamiento, vender perfiles a terceros y entrenar algoritmos con nuestros datos.

Descentralizar la confianza


Para evitar esos riesgos es razonable pensar en implementar una TTP de forma distribuida. Así surgen las redes de pares o P2P para el almacenamiento y distribución de contenido, con BitTorrent y eMule como representantes significativos de este ecosistema. A partir de 2008 se sumaron a él Bitcoin y su soporte, Blockchain.

Bitcoin consta de una capa criptográfica, un protocolo de comunicación P2P y una comunidad con interés en la colaboración financiera. La capa criptográfica utiliza hashes criptográficos y firmas digitales para consensuar la escritura de apuntes contables (transacciones) sin intermediario. Esas transacciones son agrupadas en bloques por un grupo de usuarios especiales, los mineros.

Los mineros intentan resolver un desafío matemático costoso computacionalmente, la prueba de trabajo (PoW, Proof of Work). El primer minero en resolver el desafío en un momento dado, introduce un bloque en la Blockchain y obtiene una recompensa, que equivale a crear moneda. Se puede demostrar que la selección del minero afortunado es cuasialeatoria, lo que evita el problema del doble gasto y garantiza el carácter inmutable de la Blockchain.

Esta desintermediación no está exenta de fricciones. Si hasta ahora la acumulación de capital financiero podía desestabilizar un sistema económico, en Bitcoin tal riesgo viene dado por la acumulación de capacidad de cómputo. Hoy en día el minero no es un usuario con un simple ordenador personal: existen centros de computación (o granjas de minado) dedicados exclusivamente a la creación de bloques de Bitcoin. Si una granja de minado acumula más de la mitad de la capacidad global de cómputo, podría reescribir bloques, lo que violaría la inmutabilidad de Blockchain. En 2014 la granja GHash.io alcanzó está situación de privilegio, aunque renunció a explotarla.

Al déficit de gobernanza en Bitcoin se añade que el consumo energético asociado al minado es excesivamente elevado. Esto, junto a otros factores, motiva la búsqueda de mecanismos de consenso más eficientes y seguros.

Más allá de Bitcoin


Partiendo de Bitcoin, es con Ethereum donde Blockchain cobra su verdadero protagonismo al recuperar el concepto de smart contract, que permite escribir en la Blockchain código software para su ejecución automática. Esto posibilita la creación de protocolos de comunicación para el internet de las cosas y la creación de organizaciones autónomas descentralizadas, cuyo primer ejemplo es TheDAO.

Como todo software, los smart contracts tienen problemas de seguridad con un impacto económico real. Cabe destacar que en TheDAO la pérdida económica derivada de la inseguridad motivó cambios regulatorios.

En Bitcoin y Ethereum cualquiera puede leer la información escrita en Blockchain, y ser minero. Esta transparencia puede erosionar la oportunidad de negocios en el caso empresarial, y suponer problemas de privacidad e incumplimientos de la GDPR.

Por ello, existen blockchains con control de acceso, de forma que habremos de evaluar qué blockchain necesitamos en cada caso, qué nivel de descentralización precisamos y hasta si necesitamos una.

¿Necesitas una blockchain? Adaptado de https://eprint.iacr.org/2017/375.pdf

La descentralización de la confianza en TIC es una pieza clave para configurar la edemocracia. Blockchain está llamada a jugar un papel principal en esta dinámica, pero debemos abordar sus limitaciones y realizar un cambio paradigmático, que no consiste en aplicar Blockchain a problemas ya resueltos con tecnologías “antiguas”.

La raigambre criptográfica y de sistemas distribuidos en Blockchain, por otro lado, hace que el desarrollo de la tecnología requiera perfiles que están radicados en la academia. El reconocimiento de esta situación está detrás de movimientos e iniciativas internacionales de colaboración académico-empresarial, como es el caso de IOHK, Dfinity y Algorand. En lo que nos ocupa y preocupa, nuestra academia e industria tienen mucho trabajo por hacer.The Conversation

Este artículo fue publicado originalmente en The Conversation. Lea el original.

seguir leyendo

Tecnología

La silenciosa revolución del siglo XX: La electrónica

Avatar

Publicado

el

Programador en un notebook
Pixabay

El mundo en el que vivimos sería inconcebible sin las potentísimas herramientas de las que disponemos para mantenernos conectados. Hoy en día más de la mitad de los habitantes del planeta dispone de teléfono móvil o tiene acceso a un ordenador y maneja con soltura el correo electrónico y aplicaciones de mensajería como WhatsApp.


¿Hasta dónde llega la influencia de la electrónica? La siguiente figura muestra un día cualquiera en la vida de un ciudadano medio y los instrumentos que emplea durante su jornada:

La electrónica en la vida diaria: despertadores, teléfonos móviles, receptores de radio, navegadores, ordenadores con conexión a internet, electrodomésticos. Ignacio Mártil

Este breve recorrido nos indica hasta qué punto la electrónica está presente en nuestras vidas desde que nos levantamos hasta que nos acostamos: teléfonos móviles, ordenadores, internet… Si hacemos un recorrido un poco más detallado por los equipos de uso doméstico, social, personal y colectivo que la electrónica ha situado al alcance de la gran mayoría de los ciudadanos nos encontramos con muchos más:

  • Ocio: televisión, reproductores de audio y vídeo, receptores de radio, cámaras digitales de fotografía.
  • Medicina: equipos de diagnóstico por imagen como la resonancia magnética nuclear y la tomografía axial computarizada.
  • Tráfico aéreo y marítimo: por ejemplo, los radares.
  • Tráfico terrestre: mandos de apertura y cierre de puertas, ayudas a la conducción, y trenes de tracción eléctrica como el AVE.
  • Satélites artificiales: satélites de posicionamiento como el GPS, meteorológicos y de comunicaciones.
  • Energía: bombillas LED y células solares.

Y, por supuesto, un largo etcétera.

¿Cómo hemos llegado hasta aquí?

En mi libro Microelectrónica. La historia de la mayor revolución silenciosa del siglo XX describo la historia de ese desarrollo sin precedentes, basado en la invención de dos dispositivos que fueron especialmente importantes para esta revolución: el transistor y el circuito integrado.

La evolución de la electrónica es un viaje que va desde los primeros principios físicos hasta el desarrollo de las tecnologías de la información y las comunicaciones. En este viaje participan numerosos científicos (y sus descubrimientos), que son los que construyen esta historia.

El transistor y el circuito integrado

Dos hitos fueron esenciales para el desarrollo de la microelectrónica, que ha cambiado nuestras vidas y marcado la evolución de nuestra sociedad científico-tecnológica. Me refiero al transistor y al circuito integrado.

Físicos, químicos, ingenieros y tecnólogos hicieron aportaciones colectivas en sus instituciones públicas y privadas que han sido el motor esencial de la microelectrónica.

El ejemplo más característico es el del nacimiento del transistor en los laboratorios Bell, en las Navidades de 1947.

Los Bell Labs eran el centro de investigación de la conocida empresa ATT, gigante de las telecomunicaciones de EE UU en aquellos años. Ese relato, una epopeya científica comparable al desarrollo de la máquina de vapor, tiene también paralelismos con las novelas de intriga. Sus protagonistas fueron John Bardeen, Walter Brattain y Wiliam Shockley, quienes recibieron el Premio Nobel de física en 1956 por la invención del transistor. Al mismo tiempo, atravesaron numerosas dificultades y establecieron complicadas relaciones personales entre ellos.

Casi una década después, en 1958, comenzó una carrera entre dos empresas rivales (Texas Instruments y Fairchild Semiconductors) por hacerse con la patente del primer circuito integrado. Esta maravilla de la tecnología fue concebido por dos científicos de ambas compañías (Jack Kilby en la primera, Robert Noyce en la segunda) de manera independiente y casi simultánea carrera que se resolvió muchos años después, tras un sinfín de litigios legales.

La evolución posterior de la tecnología microelectrónica es conocida como la Ley de Moore. Esta indica que el número de transistores que hay en un circuito integrado se duplica cada dos años, lo que se ha cumplido sin interrupción desde la década de 1960. Se trata de una de las obras del ingenio humano más asombrosas, difíciles de igualar por cualquier otro producto tecnológico. La siguiente imagen muestra dicha ley:

La ley de Moore: incremento del número de transistores en un circuito integrado desde la década de 1970 hasta nuestros días. Ignacio Mártil

La historia de la electrónica es más la historia de la perseverancia y la tenacidad que la de las grandes ideas geniales. Esto es un fiel reflejo de una era de organización y trabajo colaborativo, en lugar de protagonismos singulares e individualidad.The Conversation

Este artículo fue publicado originalmente en The Conversation. Lea el original.

seguir leyendo

Tecnología

Facebook deberá pagar US $ 5 mil millones por violaciones de privacidad

Los problemas legales de Facebook pueden no haber terminado. El martes, el Departamento de Justicia de EE. UU. Dijo que estaba abriendo una amplia investigación de las principales firmas de tecnología digital sobre si participan en prácticas anticompetitivas.

Avatar

Publicado

el

Por

Facebook deberá pagar una millonaria multa de 5.000 millones de dólares para resolver una investigación del gobierno estadounidense sobre sus prácticas de privacidad.


La Comisión Federal de Comercio de EE.UU. sonda descubrió una amplia gama de alertas sobre la privacidad de los usuarios de la red social. Lo anterior, desencadenó el año pasado una gran cantidad de denuncias en que el comprometía a Facebook por violar un decreto de consentimiento de 2012, al compartir de manera inapropiada información perteneciente a 87 millones de usuarios con la ahora desaparecida consultora política británica Cambridge Analytica. Los clientes de la consultora incluyeron la campaña electoral de 2016 del presidente Donald Trump.

La FTC votó 3-2 para adoptar el acuerdo, que requiere la aprobación del tribunal. Los comisionados republicanos calificaron al acuerdo de "un jonrón completo" que superó cualquier premio que la comisión podría haber obtenido en el tribunal. Los comisionados demócratas dijeron que no fue lo suficientemente lejos o que no requieren una multa lo suficientemente grande.

"¿Hubiera sido bueno obtener más, obtener $ 10 mil millones, en lugar de $ 5 mil millones, por ejemplo, para obtener mayores restricciones sobre la forma en que Facebook recopila los datos de uso y de intercambio?", Preguntó en una conferencia de prensa. "No teníamos esas opciones. "No podemos imponer tales cosas por nuestro propio mandato", fue parte de los comentarios entregados por el presidente republicano de la FTC Joe Simons.

La red social confirmó que pagaría una multa de 5.000 millones de dólares y agregó que el acuerdo de la FTC proporcionaría "un nuevo marco integral para proteger la privacidad de las personas". El precio de sus acciones cayó un 1% el miércoles por la mañana para negociarse a $ 200.39.

El comisionado demócrata de la FTC, Rohit Chopra, se quejó de que la sanción proporcionaba "inmunidad general" a los ejecutivos de Facebook "y no había restricciones reales en el modelo de negocios de Facebook" y "no soluciona los problemas centrales que llevaron a estas violaciones".

Bajo el acuerdo de la FTC, la junta de Facebook creará un comité de privacidad independiente que elimina el "control sin restricciones del CEO de Facebook, Mark Zuckerberg, sobre las decisiones que afectan la privacidad del usuario".

Facebook también acordó ejercer una mayor supervisión sobre las aplicaciones de terceros, y dijo que estaba terminando el acceso a los datos de amigos de Microsoft Corp y Sony Corp.

La mayoría republicana en la FTC dijo que el acuerdo "disminuye significativamente el poder del Sr. Zuckerberg, algo que ninguna agencia gubernamental, en ningún lugar del mundo, ha logrado hasta ahora".

Según el acuerdo, Zuckerberg y otros ejecutivos de Facebook deben firmar certificaciones trimestrales que acrediten las prácticas de privacidad. La FTC dijo que Zuckerberg u otros que presenten una certificación falsa podrían enfrentar sanciones civiles y penales.

Facebook también tiene prohibido solicitar contraseñas de correo electrónico a otros servicios cuando los consumidores se registranSe prohíbe el uso de números de teléfono para publicidad si se obtienen en una función de seguridad como la autenticación de dos factores. La empresa también debe obtener el consentimiento del usuario para utilizar los datos de reconocimiento facial.

Pese a lo anterior, desde la empresa indicaron que podrían encontrar problemas adicionales al iniciar una revisión de sus sistemas, y advirtió que tomará más tiempo implementar actualizaciones, ya que planea usar "cientos de ingenieros y más de mil personas en nuestra compañía para hacer este importante trabajo".

“Al confiar en una multa monetaria para disuadir a Facebook, la FTC no ha prestado atención a las lecciones de la historia. "Facebook ya anotó esta penalización como un costo único a cambio de las extraordinarias ganancias obtenidas de una década de uso indebido de datos", dijo el senador Richard Blumenthal, de Connecticut,

Los problemas legales de Facebook pueden no haber terminado. El martes, el Departamento de Justicia de EE. UU. Dijo que estaba abriendo una amplia investigación de las principales firmas de tecnología digital sobre si participan en prácticas anticompetitivas.

El departamento no identificó compañías específicas, pero dijo que la revisión consideraría las preocupaciones planteadas sobre "búsqueda, redes sociales y algunos servicios minoristas en línea". Los líderes en esas áreas incluyen a Google Alphabet Inc, Amazon.com Inc, Facebook y posiblemente Apple Inc.

seguir leyendo
Publicidad