За пределами выпуска: вопросы доступа к генеративным ИИ-системам.

Beyond Release: Access Considerations for Generative AI Systems

February 23, 2025

Авторы: Irene Solaiman, Rishi Bommasani, Dan Hendrycks, Ariel Herbert-Voss, Yacine Jernite, Aviya Skowron, Andrew Trask

cs.AI

Аннотация

Решения о выпуске генеративного искусственного интеллекта определяют, будут ли компоненты системы доступны, однако выпуск не решает многих других элементов, которые изменяют способы взаимодействия пользователей и заинтересованных сторон с системой. Помимо выпуска, доступ к компонентам системы информирует о потенциальных рисках и выгодах. Доступ относится к практическим потребностям, инфраструктурным, техническим и социальным, необходимым для использования доступных компонентов каким-либо образом. Мы деконструируем доступ по трем осям: ресурсы, техническая применимость и полезность. В каждой категории набор переменных на каждый компонент системы уточняет компромиссы. Например, для ресурсов требуется доступ к вычислительной инфраструктуре для обслуживания весов модели. Мы также сравниваем доступность четырех высокопроизводительных языковых моделей, две с открытыми весами и две с закрытыми весами, показывая сходные соображения для всех, основанные вместо этого на переменных доступа. Переменные доступа заложены в основу возможности масштабирования или увеличения доступа к пользователям; мы исследуем масштаб доступа и то, как масштаб влияет на способность управлять и вмешиваться в риски. Этот фреймворк лучше охватывает ландшафт и компромиссы между рисками и выгодами выпусков системы для информирования решений о выпуске системы, исследований и политики.

English

Generative AI release decisions determine whether system components are made available, but release does not address many other elements that change how users and stakeholders are able to engage with a system. Beyond release, access to system components informs potential risks and benefits. Access refers to practical needs, infrastructurally, technically, and societally, in order to use available components in some way. We deconstruct access along three axes: resourcing, technical usability, and utility. Within each category, a set of variables per system component clarify tradeoffs. For example, resourcing requires access to computing infrastructure to serve model weights. We also compare the accessibility of four high performance language models, two open-weight and two closed-weight, showing similar considerations for all based instead on access variables. Access variables set the foundation for being able to scale or increase access to users; we examine the scale of access and how scale affects ability to manage and intervene on risks. This framework better encompasses the landscape and risk-benefit tradeoffs of system releases to inform system release decisions, research, and policy.