Paula Santolaya alerta sobre los riesgos de la IA en el consumo: “La inteligencia más importante sigue siendo la humana”
«Ante la IA, necesitamos transparencia, legislación robusta, formación y alfabetización digital», afirma la experta en Derecho Digital y divulgación tecnológica durante el II Encuentro MPAC, en el que más de 40 asociaciones de consumidores debatieron sobre los derechos ciudadanos frente a la inteligencia artificial.
Madrid, 26 de junio de 2025.- La experta en Derecho Digital y divulgación tecnológica, Paula Santolaya del Burgo, fue la encargada de abrir el primer panel de debate del II Encuentro MPAC, bajo el título Los derechos de la ciudadanía ante la inteligencia artificial. Un evento celebrado en Madrid que reunió a más de 40 asociaciones de consumidores de toda España para poner sobre la mesa temas tan urgentes como cotidianos en nuestra sociedad y en las vidas diarias de las personas consumidoras.
Porque, según se desprende de las palabras de Santolaya, la IA ya decide muchas cosas por nosotros y está cobrando cada vez más protagonismo en nuestro día a día. Desde las compras online y las redes sociales hasta la salud, la educación, la banca y también la comida. En lo que se refiere a su aplicación al mundo de la alimentación y en el contexto de la relación con los consumidores, ya está muy presente en nuestros hábitos alimentarios, de los que se nutren aplicaciones de envío de comida, influencers, asistentes virtuales que hacen pedidos sin consultar. Y aunque todo esto ahorra tiempo y facilita la vida, también plantea nuevos desafíos y riesgos.
La IA no es infalible
Esta divulgadora tecnológica no escondió su sorpresa ante el hecho de que el Reglamento de Inteligencia Artificial (RIA) considere de alto riesgo los sistemas que afectan a nuestra salud, seguridad y derechos fundamentales, pero no a los que afectan a la cadena alimentaria, que, por tanto, tiene menos controles y menor transparencia siendo algo tan cotidiano. En este sentido, citó un caso real: una IA que etiquetó erróneamente como comestible una seta tóxica, lo que se tradujo en varias personas intoxicadas.
Frente a este panorama, Santolaya recordó que los consumidores no están indefensos puesto que cuentan con los derechos ARCO —Acceso, Rectificación, Cancelación y Oposición— recogidos en el RGPD y la LOPDGDD, y que permiten, entre otras cosas, saber qué datos maneja una empresa, corregir errores, eliminar datos innecesarios o rechazar usos publicitarios de nuestra información personal. A estos, se suman nuevos derechos específicos recogidos en el Artículo 50 del RIA, como el derecho a saber si estamos hablando con una máquina, el derecho a oponernos al marketing personalizado y el derecho a exigir transparencia en el uso de nuestros datos. Un marco jurídico que se está adaptando a los nuevos cambios, en un contexto, el de la IA, que ofrece más beneficios que riesgos, ha subrayado, y en el que la clave radica simplemente en aprender a usar esta nueva tecnología.
Falta de criterio o indefensión
Paula Santolaya, experta en Derecho Digital, ha apelado a la necesidad de fomentar la información y la formación; a la necesidad de educar a la ciudadanía en el uso responsable de estas tecnologías porque debemos conseguir «que la IA cierre la brecha y conecte los dos mundos». A este respecto, también quiso desmontar una idea errónea en relación con los jóvenes, que se consideran «nativos digitales», pero en realidad «nadie les ha enseñado a usar el móvil o el resto de tecnologías» con responsabilidad. Así, los más jóvenes carecen aún de criterio; mientras que las personas mayores son especialmente vulnerables por la falta de formación digital, lo que los convierte en blanco fácil de estafas.
«Esto no va solo de tecnología, va de personas», concluyó Santolaya, para quien el futuro pasa por un enfoque que combine legislación robusta, transparencia y, sobre todo, educación digital. «Un futuro donde nadie acepte unas condiciones que no entiende, donde los mayores no tengan miedo de coger el teléfono, y donde los jóvenes no confundan comodidad con libertad. Un futuro donde la inteligencia más importante siga siendo la humana».