El Bing de Microsoft se ha asociado con StopNCII.org para abordar el creciente problema de las imágenes íntimas no consensuadas y los deepfakes de IA.
Esta colaboración es un paso importante para proteger a las personas, especialmente a mujeres y niñas, de los efectos nocivos del abuso de imágenes íntimas.
StopNCII.org, gestionado por una organización benéfica del Reino Unido, permite a las personas crear huellas digitales de sus imágenes íntimas sin necesidad de subir las fotos reales.
Estas huellas digitales se comparten con empresas para ayudar a identificar y eliminar estas imágenes de sus servicios.
Con esta asociación, Bing se convierte en el primer motor de búsqueda en adoptar esta tecnología.
La asociación ya ha tenido éxito, con Microsoft actuando sobre 268,899 imágenes señaladas a través de la base de datos de StopNCII.
Este enfoque proactivo ayuda a prevenir que imágenes dañinas aparezcan en los resultados de búsqueda de imágenes de Bing.
El compromiso de Microsoft con este problema va más allá de la asociación.
Han establecido una política que prohíbe el compartir o crear imágenes íntimas sin consentimiento en todos sus servicios.
También se ha creado un portal de informes centralizado, que permite a los usuarios informar y solicitar la eliminación de contenido dañino.
Este portal ofrece a los usuarios opciones para informar sobre contenido dañino en varios productos, incluidos juegos y Bing.
A medida que el problema de los deepfakes de IA continúa escalando, Microsoft reconoce la necesidad crítica de acción. La empresa reconoce que tecnologías como la IA generativa podrían empeorar la situación respecto al uso indebido de imágenes íntimas.
En respuesta, Microsoft ha introducido medidas para prevenir la generación de contenido explícito a través de sus plataformas de inteligencia artificial, reforzando su compromiso de combatir este problema.
Esta iniciativa también se alinea con esfuerzos más amplios para mitigar el contenido engañoso generado por IA en el período previo a las elecciones globales de 2024. Microsoft tiene la intención de implementar una campaña de concienciación pública en los Estados Unidos, instando a los votantes a mantenerse alerta contra el contenido manipulador de deepfake y promoviendo un lema de “Verifica, Re- verifica y Vota.”
A medida que el panorama de los deepfakes evoluciona, Microsoft está abogando por nuevas políticas y cambios legislativos para disuadir actividades maliciosas y apoyar a las víctimas. La empresa se ha unido a un esfuerzo colaborativo destinado a establecer mejores prácticas para abordar el desafío de las imágenes íntimas no consensuadas.
Esta colaboración entre Microsoft Bing y StopNCII.org se destaca como un avance significativo en la lucha contra la explotación y la desinformación en línea. Al utilizar tecnología de vanguardia y fomentar la cooperación en la industria tecnológica, Microsoft está liderando el camino para mejorar la privacidad del usuario y abordar la prevalencia de contenido dañino en internet.
