La UPV lidera un grupo de investigación internacional sobre los retos de la privacidad en inteligencia artificial

El investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) y catedráticode la Universitat Politècnica de València (UPV), José Such, ha liderado un grupo de investigación internacional con 16 expertos del mundo académico, la industria y la administración de diferentes países y universidades, EEUU, Reino Unido y Alemania entre otros, que ha identificado los cuatro grandes retos para que la inteligencia artificial respete la privacidad de los usuarios.

José Such, investigador de VRAIN de la UPV

Estos cuatro retos identificados, que marcarán la hoja de ruta de la investigación en esta materia a nivel mundial durante los próximos años, son la privacidad inclusiva, donde es necesario estudiar y reforzar la privacidad de las poblaciones de riesgo -bien sea discriminación por sexo, edad, orientación sexual, origen étnico, discapacidad, condiciones de salud, religión, circunstancias personales o factores socioculturales- de forma responsable y ética.

Apoyo a la toma de decisiones reversibles

En segundo lugar, diseñar y desarrollar un mejor apoyo y comunicación para la toma de decisiones (reversibles) y comunicaciones relacionadas con la privacidad. En tercer lugar, aquellas cuestiones que tienen que ver con la privacidad y la inteligencia artificial para capacitar a los usuarios en la gestión de su privacidad dentro de los sistemas de IA, y promover un funcionamiento transparente y explicable.

Y en cuarto lugar, aquella que tiene que ver con la privacidad multiusuario, cuando la privacidad de las personas se ve afectada por la información compartida por otros, y en la que es necesario proporcionar las herramientas adecuadas para apoyar a los usuarios.

Las conclusiones de este equipo se han desarrollado en el artículo colaborativo “Grandes retos de la privacidad centrada en el ser humano” y se han publicado en la revista IEEE Security & Privacy.

Además, el investigador de VRAIN de la UPV ha sido invitado como destacado experto en esta materia al seminario que se celebra del 22 al 27 de junio en la ciudad alemana de Dagstuhl, donde el grupo se ha concentrado para seguir avanzando en esta temática.

Tal y como explica el investigador de VRAIN de la UPV, José Such:“este artículo ofrece un punto de partida para quienes, en el mundo académico, la industria o la administración pública, estén interesados en impulsar la agenda de la privacidad centrada en el ser humano y orientar la investigación y la práctica centradas en el ser humano, para abordar los problemas de privacidad de las tecnologías modernas”.