Sernac entrega lineamientos y advierte sobre eventuales riesgos sobre la Inteligencia Artificial

Sernac entrega lineamientos y advierte sobre eventuales riesgos sobre la Inteligencia Artificial

El Sernac dictó una circular que se adelanta a los eventuales riesgos y establece principios respecto al resguardo de los derechos de los consumidores en el uso de herramientas de Inteligencia Artificial (IA).

El director del Sernac, Lucas Del Villar, señaló que la utilización de la IA puede profundizar asimetrías en perjuicio de los consumidores.

Esto, por resultados injustos o arbitrariamente discriminatorios, la eventual falta de transparencia en las condiciones en que se ofrecen los servicios o en el tratamiento de los datos personales.

Lee también...Bachelet advierte peligros de los sistemas de Inteligencia Artificial que amenazan los DDHHMiércoles 15 Septiembre, 2021 | 11:08

Se trata, por tanto, de un sistema que en base a distintos objetivos, puede hacer predicciones de comportamiento, recomendaciones o influir sobre decisiones de las personas en entornos reales o virtuales.

La autoridad explicó que los sistemas que se basan en estas tecnologías pueden ser beneficiosos para los consumidores.

Lo anterior, al permitir la automatización de ciertas tareas y reducir costos de contratación, o posibilitar la firma de contratos u ofertas.

Riesgos relacionados con la IA

No obstante, advirtióque existen ciertos riesgos relacionados con las asimetrías de información.

Sernac entrega lineamientos y advierte sobre eventuales riesgos sobre la Inteligencia Artificial

Estas podrían traer como consecuencia riesgos de abuso, manipulación y generación de resultados arbitrariamente discriminatorios.

Por ejemplo, mediante del desarrollo de algoritmos de autoaprendizaje es posible determinar patrones de conducta.

Esto facilita que se exploten intencionalmente sus sesgos o se desarrollen prácticas comerciales como los “dark patterns”. Con esto, se puede empujar a los consumidores a tomar decisiones no siempre en su beneficio.

Adicionalmente, como riesgo en la utilización de sistemas de Inteligencia Artificial, los consumidores pueden ser objeto de acciones o decisiones adoptadas por dichos sistemas que sean difíciles de entender o simplemente no se puedan rebatir.

Al respecto, la circular instruye a las empresas a respetar la Ley del Consumidor en cuanto a la entrega de información efectiva y transparente; el resguardo de la libertad de elección y la seguridad en el consumo; la prohibición de toda discriminación arbitraria, y la protección de los datos personales de los consumidores.

Lee también...Publican modificación a Ley de Protección al Consumidor: garantía legal de compras sube a seis mesesViernes 24 Diciembre, 2021 | 15:58

Asimismo, como práctica general, las empresas no pueden usar esta tecnología para manipular y perjudicar a los consumidores.

Sernac y el uso de la IA

Respecto de la protección de datos personales, todo tratamiento de información de carácter personal debe sustentarse en una base legal y contar con el consentimiento del titular, que este consentimiento sea válido, informado y expreso (otorgado por escrito), pudiendo el titular los datos revocar esa autorización.

Los datos personales deben ser exactos y estar actualizados, así como ser eliminados y cancelados cuando su almacenamiento carezca de fundamento legal o cuando hayan caducado. Asimismo, los datos erróneos, inexactos, equívocos o incompletos deben ser modificados.

Del Villar concluye señalando que espera “que las empresas utilicen estos sistemas respetando la ley y promoviendo buenas prácticas porque eso repercutirá en una mayor confianza en el mercado y en un crecimiento más eficiente de estas tecnologías”.

Lee también...Finaliza Congreso Futuro 2022: Girardi valora que Gobierno implementara ideas nacidas en el eventoLunes 24 Enero, 2022 | 14:08

Este material se enmarca en el cumplimiento del Plan de Acción de la Política Nacional de IA del Ministerio de Ciencia, Conocimiento,e Innovación (MinCiencia) que se publicó en octubre de 2021, con el objetivo que nuestro país cuente con una estrategia nacional para anticiparse a sus efectos.

Lo anterior, particularmente en el objetivo de fomentar un uso de IA en el comercio digital transparente, no discriminatorio y respetuoso de las normas de protección de datos personales (objetivo 3.3.1. de dicha política nacional).