Resumen de Another brick in the wall:: Threats to our autonomy as sense-makers when dealing with machine learning systems
- English
Autonomy, as proposed by the enactive approach to cognition, is the capacity that living organisms have to follow norms constituted by their own activity. This concept is linked to the concepts of sense-making and participatory sense-making, the former encapsulating the cognizer's ability to bring forth a world of meaning through its coupling with the environment – and being affected by its surroundings on an ongoing basis – and the latter being an extension of this idea, which applies to interactive processes in which at least two agents find themselves involved in. In this essay I advocate that, when dealing with machine learning systems, which cannot be considered autonomous, the agent or cognizer cannot sustain his or her autonomy in the same way as would be possible in an encounter with another agent. The reasoning is developed in three threads: the unbalanced encounter in which the cognizer's autonomy is threatened; the reduction of the range of experiences an autonomous agent could have; the lack of awareness of the cognizer concerning rules and potential risks of the systems he is dealing with. Even though these risks are focused on in the essay, the opportunities offered by machine learning systems are also recognized. To take advantage of them, it is necessary to seek a balance that encompasses the inherent human capacity for intersubjectivity permeated by affectivity.
- português
A autonomia, tal como proposta pela abordagem enativapara a cognição, é a capacidade que os organismos vivos têm de seguir as normas constituídas pela sua própria atividade.Esse conceito está ligado outros dois conceitos do enativismo,de sense-makinge de participatory sense-making–o primeiro referindo-se à capacidade do cognoscente de produzir um mundo de sentido através da sua ligação com o ambiente,e de ser afetado pelo meiode forma contínua,e o último constituindo uma extensão desta ideia, que se aplica a processos interativos em que pelo menos dois agentes se encontram envolvidos. Neste ensaio, defendo que, ao lidar com sistemas de machine learning, que não podem ser considerados autônomos, o agente ou cognoscente não pode sustentar a sua autonomia da mesma forma que seria possível sustentá-la num encontro com outro agente. A argumentação desenrola-se em três pilares: o encontro desequilibrado em que a autonomia do cog-noscente é ameaçada; a redução do leque de experiências que um agente autônomo poderia ter e o desconhecimento do cognoscente quanto às normas e às ameaças potenciais dos sistemas com os quais está a lidar. Ainda que o ensaio seja centrado nesses riscos, as oportunidades oferecidas por sistemas algorítmicos como os de aprendizagem de máquina são também reconhecidas. Para aproveitá-las,aponta-se que é necessário buscar um equilíbrio capaz de englobar a intersubjetividade, inerentemente humana, permeada pela afetividade.
