El surgimiento de grandes modelos de lenguaje ha demostrado que los algoritmos de hoy en día son más que capaces de imitar el comportamiento humano en línea.
A estudio de marzo de 2023 reveló que los participantes no podían distinguir con precisión entre texto humano o de IA. A los investigadores les preocupa que estos modelos puedan usarse como una herramienta para actos maliciosos.
Empresas como Microsoft han implementado barandillas en su IA para evitar que se utilicen para desinformación y otros tipos de esquemas. Sin embargo, muchos de estos modelos generativos son de código abierto o se filtraron, lo que permite que cualquiera los use para su propio beneficio.
Cada vez es más difícil demostrar que cualquier usuario con el que interactúas en Internet es un bot. Plataformas de redes sociales como Reddit y Tiktok ya han colocado reglas comunitarias que restringen el envío de contenido de IA.
A medida que nuestras vidas se vuelven más dependientes de las interacciones en línea, es importante que estas plataformas en línea establezcan protocolos que puedan probar que una cuenta está a cargo de un humano.
En este artículo, explicaremos los requisitos para dicho protocolo y veremos los avances desarrollados por las aplicaciones Web3 para resolver este problema de probar la personalidad.
¿Qué es la prueba de personalidad?
Prueba de personalidad o PoP es un tipo de protocolo que permite que una red verifique que un ser humano real está detrás de un evento en particular.
Los sistemas descentralizados pueden implementar mecanismos PoP para evitar que ocurra actividad maliciosa.
¿Qué sucede cuando un red descentralizada carece de una manera de verificar la humanidad?
Uno de los desafíos más difíciles de Web3 es encontrar formas de prevenir una Ataque de sibila. Este tipo de amenaza ocurre cuando un usuario encuentra una manera de usar varias cuentas para obtener una ventaja injusta en una plataforma o red.
Por ejemplo, un atacante puede crear varias cuentas falsas en una plataforma como Twitter o Facebook. Después de obtener acceso a una gran cantidad de cuentas, el atacante puede usar su alcance para difundir desinformación o manipular la opinión pública.
O en las redes que permiten que cada usuario vote, un atacante puede crear múltiples identidades falsas para manipular los resultados.
Los protocolos de prueba de personalidad pueden prevenir los ataques de Sybil al exigir que las personas demuestren que son seres humanos reales antes de permitirles participar en una red.
La amenaza de los modelos de IA en los métodos PoP actuales
Es posible que ya haya encontrado una forma básica de PoP con servicios de detección de bots como recaptcha. Los sitios web agregan estas pruebas para garantizar que la persona que usa el servicio sea un ser humano real. A menudo requieren que realice una prueba que es lo suficientemente fácil de resolver para un ser humano pero es mucho más difícil para las computadoras.
Por ejemplo, una prueba de recaptcha común le pediría al usuario que seleccione todos los cuadrados en una cuadrícula que tenga un puente, una señal de alto o escaleras.
Sin embargo, a medida que los modelos de IA se vuelven más avanzados en la detección de imágenes, este tipo de pruebas se vuelven obsoletas lentamente. Estas pruebas también tienen una limitación crítica: resolver la prueba no prueba que usted sea un usuario único.
Un protocolo PoP adecuado y seguro debe tener una forma de demostrar de manera confiable que un perfil pertenece a un usuario real y que el usuario no puede crear varias cuentas para sí mismo.
En la siguiente sección, profundizaremos en los requisitos principales para los mecanismos de prueba de personalidad y cómo estas características pueden ayudar a configurar identidades descentralizadas globales.
Requisitos para la prueba de personalidad
Aquí hay algunas propiedades clave de un protocolo ideal de prueba de personalidad.
- El protocolo debe valorar política de privacidad. El mecanismo PoP debe ser capaz de mantener al usuario en el anonimato.
- El protocolo PoP también debe ser resistente al fraude. Los usuarios no deberían poder crear múltiples perfiles en la misma plataforma.
- Para que un protocolo PoP logre la adaptación global, la red en sí debe ser escalable y Descentralizado.
Antes de analizar algunas implementaciones prometedoras de protocolos PoP que tienen como objetivo lograr todas las propiedades anteriores, echemos un vistazo a las desventajas de algunos de los métodos de prueba de personalidad más populares.
Primero, echemos un vistazo al enfoque de la prueba de Turing. Seguramente te has encontrado con una de estas pruebas antes si alguna vez has tenido que resolver un captcha en línea.
¿Alguna vez has notado que estas pruebas son cada vez más complicadas de resolver? La IA está llegando a un punto en el que las pruebas de desafío y respuesta, como la comprensión de una imagen, ahora son una tarea trivial. Los actores maliciosos también pueden usar servicios que dependen de un equipo de usuarios humanos asignados para resolver estas pruebas a escala.
Otro enfoque común de PoP es la verificación de identidad. La mayoría de las instituciones financieras siguen algún tipo de estándar KYC (Conozca a su cliente) para administrar actividades fraudulentas o maliciosas en su plataforma.
Suponga que desea crear una nueva cuenta en su banco local. El banco generalmente requerirá que presente algún tipo de identificación del gobierno. Las plataformas de redes sociales como Facebook y Twitter también utilizan una forma de verificación de identidad. Estas plataformas solicitan a los usuarios que verifiquen su número de teléfono celular o correo electrónico para evitar que un solo usuario cree docenas de cuentas en su plataforma.
Si bien este método ayuda a disuadir a los actores maliciosos, todavía hay muchas formas de eludir estos límites. Por ejemplo, un actor malintencionado puede usar técnicas como la suplantación de identidad por SMS para obtener acceso a una gran cantidad de cuentas.
Además, la identificación KYC es difícil de implementar globalmente ya que no todas las personas tienen una identificación. Incluso si una persona tuviera una identificación, un organismo centralizado aún almacena y controla estos registros.
Posibles enfoques para la prueba de personalidad
Web de confianza
El enfoque de red de confianza para la prueba de personalidad es un método descentralizado de verificación de identidad.
En este enfoque, los usuarios crean y administran sus propias identidades digitales mediante la creación de certificados digitales en una plataforma pública. Luego, los usuarios esperan que estos certificados sean verificados por otras personas de la comunidad que sean confiables y estén verificadas. Este proceso crea una “red de confianza” que da fe de la identidad del individuo.
Cuantas más personas firmen el certificado de un usuario, más confiable y verificada será su identidad. Esto crea una red de confianza que puede ayudar a verificar la identidad de una persona en línea.
Proyectos como Prueba de humanidad centrarse en la construcción de redes de confianza para Web3. Los usuarios deben subir un video de ellos hablando con una dirección de Ethereum claramente visible en un dispositivo o en una hoja de papel. El usuario deberá depositar una pequeña cantidad de tokens que le serán devueltos una vez que un usuario registrado haya acreditado su identidad.
Biometría
La biometría es un método de autenticación que se basa en las características biológicas únicas de un individuo para verificar la identidad. Dado que estas características no se pueden perder ni olvidar, la biometría se puede utilizar como un método confiable para probar la personalidad.
Hay varios métodos de biometría con diversos grados de dificultad en la implementación.
biometría de huellas dactilares implica el uso de patrones de huellas dactilares únicos de un individuo para verificar su identidad. La biometría de huellas dactilares es ampliamente aceptada como un método conveniente de prueba de personalidad en entornos gubernamentales y comerciales.
Los usuarios también pueden verificar su identidad mediante el uso de biometría facial. Las plataformas pueden usar tecnología de reconocimiento facial para hacer coincidir la cara de un usuario con su identificación emitida por el gobierno u otros documentos. El éxito del sistema Face ID de Apple ha demostrado la viabilidad de la biometría facial en dispositivos móviles como alternativa a los códigos de acceso y la biometría de huellas dactilares.
Otro método potencial es el uso de la biometría del iris para escanear los patrones únicos que se encuentran en el iris de un individuo. Los investigadores argumentan que la biometría del iris es más precisa que el reconocimiento facial y la biometría de huellas dactilares. Los patrones del iris son más únicos que las huellas dactilares y permanecen relativamente desencadenados a medida que el individuo envejece.
Una advertencia de la biometría del iris es que escanear el iris del usuario requiere dispositivos especializados.
La plataforma de identidad digital centrada en la privacidad moneda mundial planea usar hardware personalizado llamado "Orb". El dispositivo emite una prueba de las credenciales de personalidad que la IA tendrá dificultades para falsificar. El Orb también mantiene segura la información del usuario al eliminar todas las fotos después de cada verificación.
Conclusión
A medida que las aplicaciones descentralizadas encuentran más casos de uso en el mundo real, los desarrolladores deben integrar formas de evitar que los actores malintencionados se aprovechen del sistema. Los mecanismos de prueba de personalidad son una parte clave para mantener estas plataformas seguras y confiables.
La investigación sobre los enfoques de prueba de personalidad también debe centrarse en el peligro de que los atacantes utilicen la IA para engañar al sistema. Si la IA tiene la capacidad de emular el rostro y el habla de cualquier persona, las plataformas en línea podrían correr el riesgo de ser invadidas por perfiles fraudulentos y maliciosos que se hacen pasar por humanos reales.
¿Cuál cree que es la mejor manera de abordar el tema de las identidades digitales en la era de la IA?
Deje un comentario