추정된 문화적 정체성: 이름이 대형 언어 모델 응답에 미치는 영향

Presumed Cultural Identity: How Names Shape LLM Responses

February 17, 2025

저자: Siddhesh Pawar, Arnav Arora, Lucie-Aimée Kaffee, Isabelle Augenstein

cs.AI

초록

이름은 인간의 정체성과 깊이 연관되어 있습니다. 이름은 개성, 문화적 유산, 개인적 역사의 표지로 기능할 수 있습니다. 그러나 이름을 정체성의 핵심 지표로 사용하는 것은 복잡한 정체성을 지나치게 단순화할 위험이 있습니다. 대형 언어 모델(LLM)과 상호작용할 때, 사용자 이름은 개인화를 위한 중요한 정보 요소입니다. 이름은 챗봇이 요청한 직접적인 사용자 입력, 이력서 검토와 같은 작업 맥락, 또는 개인화를 위해 사용자 정보를 저장하는 내장 메모리 기능을 통해 챗봇 대화에 포함될 수 있습니다. 우리는 LLM이 제시된 일반적인 조언 요청 질문에 대해 생성한 응답에서 문화적 가정을 측정함으로써 이름과 관련된 편향을 연구합니다. 이러한 질문은 사용자에 대한 가정을 포함할 수 있습니다. 우리의 분석은 여러 문화권에서 LLM 생성물에 나타나는 이름과 관련된 문화적 정체성에 대한 강한 가정을 보여줍니다. 이 연구는 고정관념을 강화하지 않으면서도 의미 있는 맞춤화를 유지하는 더욱 세심한 개인화 시스템 설계에 시사점을 제공합니다.

English

Names are deeply tied to human identity. They can serve as markers of individuality, cultural heritage, and personal history. However, using names as a core indicator of identity can lead to over-simplification of complex identities. When interacting with LLMs, user names are an important point of information for personalisation. Names can enter chatbot conversations through direct user input (requested by chatbots), as part of task contexts such as CV reviews, or as built-in memory features that store user information for personalisation. We study biases associated with names by measuring cultural presumptions in the responses generated by LLMs when presented with common suggestion-seeking queries, which might involve making assumptions about the user. Our analyses demonstrate strong assumptions about cultural identity associated with names present in LLM generations across multiple cultures. Our work has implications for designing more nuanced personalisation systems that avoid reinforcing stereotypes while maintaining meaningful customisation.