La ética en los algoritmos de recomendación

[28041901-4-Claudia-338]

Buenas tardes delegados y miembros del modelo,
 
Me gustaría hablar sobre un tema que me causa curiosidad en el entorno digital: la ética en los algoritmos de recomendación. Los algoritmos son un sistema que utiliza datos sobre los usuarios y el contenido para predecir qué contenido podría interesar a cada usuario. Aunque estas herramientas mejoran la experiencia del usuario al ofrecer contenido personalizado, creo que pueden no ser beneficiosas al constantemente mostrar perspectivas que refuerzan las creencias previas del usuario.

¿En su opinión,  es mejor que mostrar perspectivas que refuercen las creencias previas del usuario o mostrar nuevas perspectivas? ¿No mostrar nuevas perspectivas puede significar limitar el acceso a información?

Les adjunto el link de la web donde he obtenido información: https://juanjoselarrea.com/algoritmos-de-recomendacion-para-tu-estrategia-de-comunicacion/#:~:text=Un%20algoritmo%20de%20recomendaci%C3%B3n%20es,streaming%20y%20las%20tiendas%20online.

Espero sus opiniones atenta, 

Claudia Guillamet - Participante Línea 4 - Garantizar unos medios de comunicación libres y plurales en la UE. 

[22005765-4-Vega-507]

Buenas tardes delegados y miembros del programa;

Agradezco a la delegada Claudia por abrir este tema tan relevante.

Una de las cuestiones éticas de los algoritmos de recomendación es el potencial de sesgo y discriminación. Esto puede surgir de los datos, los algoritmos y incluso de los propios usuarios. Esto da lugar a recomendaciones injustas o incorrectas, que excluyan o favorezcan a algunos grupos sociales, opiniones o valores.

Por lo tanto, creo que es mejor mostrar contenido de todo tipo, variando entre información que refuerce y fundamente tus puntos de vista, y otra contraria a tu perspectiva, para que así puedas contrarrestar efectos de polarización en temas de política, ciencia o cultura y la calidad de tu conocimiento aumente.

Por otro lado, respondiendo a la pregunta planteada por Claudia, creo que sí que limita el acceso a la información, aunque no de manera directa.
Al no mostrar contenidos que los algoritmos suponen que no nos interesan, se está creando una "barrera invisible", de tal manera que el usuario ve todo lo que está alineado con sus pensamientos, evitando los temas divergentes que podrían mejorar su visión del mundo.


Ofreciendo diferentes ideas conseguiremos un entorno digital más inclusivo y enriqueceremos nuestro pensamiento crítico.

Espero vuestras opiniones.
Vega Brun Lope.

[41005920-4-Guillermo-494]

Buenas tardes participantes del programa;

De nuevo, por plantear este debate de tanta relevancia.

En primer lugar, plantear una cuestión que surge a partir de esta problemática: Si vemos como los algoritmos de recomendación personalizados son terreno fértil para el llamado "Sesgo de Confirmación" (por el cual, como han indicado mis compañeros, una persona confirma su perspectiva debido los algoritmos personalizados no indican lo contrario, siendo esto fruto de que esta piense que su opinión es corroborada por todos), ¿No significa esto que las grandes empresas, propietarias de estos programas, tienen una gran capacidad de influir en el público general?

Si estas decidieran modificar estos algoritmos para que incluyan progresivamente más de una perspectiva u opinión -por ejemplo, en el ámbito político- ¿no podrían alterar significativamente parte de la opinión pública, dadas las enormes influencias que estas herramientas ejercen sobre las personas?

¿No constituye algo poco moral que un poder económico sea capaz de influenciar a tantas personas?

Espero sus reflexiones al respecto.
Guillermo Leal Martínez

[22005765-4-Vega-507]

Buenas noches delegados y miembros del programa;

Cuesta pensar que hay empresas tecnológicas con la configuración de nuestras opiniones y creencias, especialmente cuando se trata de algoritmos de recomendación. En efecto, el "Sesgo de Confirmación" refuerza las diversas opiniones de los usuarios, al solo mostrar el contenido similar o igual a sus puntos de vista. En mi opinión, esto lleva a un círculo vicioso, en el cual las personas se encierran en una burbuja, sin ser expuestas a información contraria a sus ideas.

Me parece muy interesante la pregunta planteada por Guillermo, a la cual me gustaría responder.
Creo que el principal problema es la concentración de poder, ya que cuando la información que se muestra depende de unas pocas empresas, estas pueden alterar las opiniones de los usuarios que la reciben. Además estas entidades gestionan los algoritmos sin supervisión y tampoco están sujetas a un reglamento estricto, por lo que pueden utilizar los límites de información para un beneficio económico.
Por lo tanto, creo que es inmoral que estas entidades puedan alterar o fortalecer los pensamientos y decisiones de los usuarios y plantea un desafío ético incluso para la democracia.

Espero leer más opiniones.
Vega Brun Lope.

[41005920-4-Guillermo-494]

Buenas tardes participantes del programa;

Gracias, una vez más, por plantear este debate de tanta relevancia.

Me gustaría hilar mi respuesta con un pequeño detalle en el mensaje anterior, y es que "Es inmoral que estas entidades puedan alterar o fortalecer los pensamientos y decisiones de los usuarios y plantea un desafío ético incluso para la democracia". Estoy completamente de acuerdo.

Es más, es precísamente de esto de lo que estuvimos discutiendo en otro canal de este foro("Escudo de la Democracia Europeo"), en el que hablamos de como la propagación de bulos puede impactar negativamente a la democracia. Sin embargo, el comentario aquí expuesto añade una dimensión adicional al problema: Hemos entendido como las grandes empresas, propietarias de las aplicaciones con algoritmos de recomendación, son capaces de influir en el público a gran escala debido a su control del flujo de información (bulos y verdades). Esto significa que está en su poder cambiar opiniones políticas, y de esta manera son capaces de influir en la democracia Europea.

Por ello, prima responder una pregunta:
¿Cómo podemos evitar el control de la política por los medios, y al mismo tiempo, promover un acceso a la información libre?

Espero sus reflexiones al respecto.
Guillermo Leal Martínez