Como o processo de elicitação de preferências influencia a aceitação de recomendações de inteligência artificial

Abstract

A adoção ou a aversão à uma recomendação proveniente de um algoritmo é um tema que desperta interesse nos pesquisadores de campos de conhecimentos tão diversos como inteligência artificial, sistemas de informação, marketing ou comportamento do consumidor. No entanto, poucos trabalhos empíricos sobre o comportamento dos indivíduos em relação aos algoritmos estão disponíveis na literatura e pouco se sabe sobre os motivos subjetivos que levam o consumidor a adotar ou rejeitar uma recomendação feita por um agente de inteligência artificial. Estudos apontam que a precisão do algoritmo poderia influenciar a aceitação, diferentes trabalhos indicam que o tipo de tarefa em que se enquadra a recomendação teria influência na aceitação. Porém estes estudos apresentaram uma certa ambiguidade nas conclusões e outros motivos poderiam levar a aceitação da recomendação. A exemplo de outras pesquisas, que apontam para a incompreensão da lógica interna do algoritmo que provocaria a rejeição da recomendação do algoritmo. Por outro lado, existe uma interação inicial entre o algoritmo e o usuário chamado de processo de elicitação de preferências (PEP), estágio pela qual o usuário informa suas preferências e necessidades utilizadas pelo algoritmo na preparação da recomendação, que pode influenciar a aceitação da recomendação. Estudos indicam que este processo de interação influencia a satisfação com a recomendação porque proporciona um sentimento de transparência e relevância na formulação da recomendação, cria uma expectativa de qualidade na recomendação e pode ajudar na compreensão da lógica interna do algoritmo. No entanto foram encontrados poucos experimentos que analisaram o PEP com a satisfação da recomendação e carece de novos estudos empíricos. Outro tema encontrado na literatura mas também pouco explorado refere-se a influência do conhecimento subjetivo sobre o domínio da recomendação na satisfação do usuário. Então o PEP influencia na satisfação com a recomendação? O conhecimento subjetivo do usuário atenua ou acentua a aceitação da recomendação? Dessa forma, os principais objetivos deste trabalho são estudar se o processo de elicitação de preferências (PEP) influencia a satisfação com a recomendação bem como se o conhecimento do indivíduo sobre o domínio da recomendação exerce uma influência na satisfação do consumidor. Para atingir estes objetivos, realizou-se um experimento exploratório que manipulou distintos PEPs, considerando o nível de conhecimento subjetivo sobre o domínio da recomendação. A análise do PEP isoladamente demonstrou efeitos marginalmente siginificativos, entretanto quando analisado em conjunto com o conhecimento sobre o domínio, os resultados indicam diferenças significativas na satisfação. Assim foi possível verificar a influência do PEP com o conhecimento subjetivo na satisfação do usuário. Portanto esta pesquisa exploratória contribuiu para a literatura não somente com novas aprendizagens sobre o processo de elicitação de preferências per se, mas também com novos estudos envolvendo o PEP e o conhecimento subjetivo sobre o domínio da recomendação. Ao mesmo tempo a pesquisa colabora com a prática no mundo corporativo, no sentido de trazer novas ideias para que empresas aprimorem seus PEPs em funcionamento ou desenvolvam novas estratégias que proporcionem uma maior satisfação para os consumidores

The adoption or aversion to a recommendation from an algorithm is a topic that arouses interest in researchers from fields as diverse as artificial intelligence, information systems, marketing, or consumer behavior. However, few empirical studies on the behavior of individuals in relation to algorithms are available in the literature and little is known about the subjective reasons that lead consumers to adopt or reject a recommendation made by an artificial intelligence agent. Studies indicate that the accuracy of the algorithm could influence acceptance, different studies indicate that the type of task in which the recommendation fits would influence acceptance. However, these studies presented a certain ambiguity in the conclusions and other reasons could lead to the acceptance of the recommendation. Like others researches that point to the misunderstanding of the internal logic of the algorithm, it would provoke the rejection of the algorithm's recommendation. On the other hand, there is an initial interaction between the algorithm and the user called the preferences elicitation process (PEP), a stage by which the user informs his preferences and needs used by the algorithm in preparing the recommendation, which can influence the acceptance of the recommendation. Studies indicate that this interaction process influences satisfaction with the recommendation because it provides a feeling of transparency and relevance in the formulation of the recommendation, creates an expectation of quality in the recommendation and can help in understanding the internal logic of the algorithm. However, few experiments were found that analyzed the PEP with the satisfaction of the recommendation and lacks further empirical studies. Another topic found in the literature, but also little explored, refers to the influence of subjective knowledge on the domain of recommendation on user satisfaction. So, does PEP influence satisfaction with the recommendation? Does the user's subjective knowledge attenuate or enhance the acceptance of the recommendation? Thus, the main objectives of this work are to study whether the preferences elicitation process (PEP) influences satisfaction with the recommendation as well as whether the individual's knowledge of the recommendation domain influences consumer satisfaction. To achieve these objectives, an exploratory experiment was carried out that manipulated different PEPs, considering the level of subjective knowledge about the recommendation domain. The analysis of the PEP alone showed marginally significant effects, however when analyzed together with domain knowledge, the results indicate significant differences in satisfaction. Thus, it was possible to verify the influence of PEP along with subjective knowledge on user satisfaction. Therefore, this exploratory research has contributed to the literature not only with new learning about the preferences elicitation process per se, but also with new studies involving the PEP and subjective knowledge about the recommendation domain. At the same time, the research collaborates with the practice in the corporate world, to bring new ideas for companies to improve their PEPs in operation or develop new strategies that provide greater satisfaction to consumers