2024년 대형 언어 모델 (LLM) 해커톤에서의 소감: 재료 과학 및 화학 응용에 대하여

Reflections from the 2024 Large Language Model (LLM) Hackathon for Applications in Materials Science and Chemistry

November 20, 2024

저자: Yoel Zimmermann, Adib Bazgir, Zartashia Afzal, Fariha Agbere, Qianxiang Ai, Nawaf Alampara, Alexander Al-Feghali, Mehrad Ansari, Dmytro Antypov, Amro Aswad, Jiaru Bai, Viktoriia Baibakova, Devi Dutta Biswajeet, Erik Bitzek, Joshua D. Bocarsly, Anna Borisova, Andres M Bran, L. Catherine Brinson, Marcel Moran Calderon, Alessandro Canalicchio, Victor Chen, Yuan Chiang, Defne Circi, Benjamin Charmes, Vikrant Chaudhary, Zizhang Chen, Min-Hsueh Chiu, Judith Clymo, Kedar Dabhadkar, Nathan Daelman, Archit Datar, Matthew L. Evans, Maryam Ghazizade Fard, Giuseppe Fisicaro, Abhijeet Sadashiv Gangan, Janine George, Jose D. Cojal Gonzalez, Michael Götte, Ankur K. Gupta, Hassan Harb, Pengyu Hong, Abdelrahman Ibrahim, Ahmed Ilyas, Alishba Imran, Kevin Ishimwe, Ramsey Issa, Kevin Maik Jablonka, Colin Jones, Tyler R. Josephson, Greg Juhasz, Sarthak Kapoor, Rongda Kang, Ghazal Khalighinejad, Sartaaj Khan, Sascha Klawohn, Suneel Kuman, Alvin Noe Ladines, Sarom Leang, Magdalena Lederbauer, Sheng-Lun Mark Liao, Hao Liu, Xuefeng Liu, Stanley Lo, Sandeep Madireddy, Piyush Ranjan Maharana, Shagun Maheshwari, Soroush Mahjoubi, José A. Márquez, Rob Mills, Trupti Mohanty, Bernadette Mohr, Seyed Mohamad Moosavi, Alexander Moßhammer, Amirhossein D. Naghdi, Aakash Naik, Oleksandr Narykov, Hampus Näsström, Xuan Vu Nguyen, Xinyi Ni, Dana O'Connor, Teslim Olayiwola, Federico Ottomano, Aleyna Beste Ozhan, Sebastian Pagel, Chiku Parida, Jaehee Park, Vraj Patel, Elena Patyukova, Martin Hoffmann Petersen, Luis Pinto, José M. Pizarro, Dieter Plessers, Tapashree Pradhan, Utkarsh Pratiush, Charishma Puli, Andrew Qin, Mahyar Rajabi, Francesco Ricci, Elliot Risch, Martiño Ríos-García, Aritra Roy, Tehseen Rug, Hasan M Sayeed, Markus Scheidgen, Mara Schilling-Wilhelmi, Marcel Schloz, Fabian Schöppach, Julia Schumann, Philippe Schwaller, Marcus Schwarting, Samiha Sharlin, Kevin Shen, Jiale Shi, Pradip Si, Jennifer D'Souza, Taylor Sparks, Suraj Sudhakar, Leopold Talirz, Dandan Tang, Olga Taran, Carla Terboven, Mark Tropin, Anastasiia Tsymbal, Katharina Ueltzen, Pablo Andres Unzueta, Archit Vasan, Tirtha Vinchurkar, Trung Vo, Gabriel Vogel, Christoph Völker, Jan Weinreich, Faradawn Yang, Mohd Zaki, Chi Zhang, Sylvester Zhang, Weijie Zhang, Ruijie Zhu, Shang Zhu, Jan Janssen, Ian Foster, Ben Blaiszik

cs.AI

초록

제2회 대형 언어 모델 (LLM) 응용 소재 과학 및 화학 해커톤의 결과를 제시합니다. 이 해커톤은 전 세계의 혼합 위치에 참가자들을 모아 총 34개의 팀 제출을 이끌었습니다. 제출물은 일곱 가지 주요 응용 영역을 아우르며, (1) 분자 및 물질 특성 예측; (2) 분자 및 물질 설계; (3) 자동화 및 새로운 인터페이스; (4) 과학적 커뮤니케이션 및 교육; (5) 연구 데이터 관리 및 자동화; (6) 가설 생성 및 평가; 그리고 (7) 과학 문헌으로부터 지식 추출 및 추론을 보여주었습니다. 각 팀 제출물은 코드 링크와 함께 요약 테이블에 제시되었으며, 부록에 간결한 논문으로 수록되었습니다. 팀 결과물 외에도, 우리는 해커톤 행사와 그 혼합 형식에 대해 논의하였습니다. 이 형식은 토론토, 몬트리올, 샌프란시스코, 베를린, 로잔, 도쿄에 물리적 허브를 포함하고 지역 및 가상 협업을 가능케 하는 글로벌 온라인 허브를 함께 제공했습니다. 전반적으로, 이 행사는 작년 해커톤 이후 LLM 능력의 상당한 향상을 강조하며, 소재 과학 및 화학 연구에 대한 LLM 응용의 지속적 확대를 시사합니다. 이러한 결과는 LLM의 이중 활용성을 보여주며, 다양한 기계 학습 작업을 위한 다목적 모델로서와 과학 연구에서 사용자 정의 응용 프로그램을 신속하게 프로토타이핑하는 플랫폼으로서의 LLM의 역할을 입증합니다.

English

Here, we present the outcomes from the second Large Language Model (LLM) Hackathon for Applications in Materials Science and Chemistry, which engaged participants across global hybrid locations, resulting in 34 team submissions. The submissions spanned seven key application areas and demonstrated the diverse utility of LLMs for applications in (1) molecular and material property prediction; (2) molecular and material design; (3) automation and novel interfaces; (4) scientific communication and education; (5) research data management and automation; (6) hypothesis generation and evaluation; and (7) knowledge extraction and reasoning from scientific literature. Each team submission is presented in a summary table with links to the code and as brief papers in the appendix. Beyond team results, we discuss the hackathon event and its hybrid format, which included physical hubs in Toronto, Montreal, San Francisco, Berlin, Lausanne, and Tokyo, alongside a global online hub to enable local and virtual collaboration. Overall, the event highlighted significant improvements in LLM capabilities since the previous year's hackathon, suggesting continued expansion of LLMs for applications in materials science and chemistry research. These outcomes demonstrate the dual utility of LLMs as both multipurpose models for diverse machine learning tasks and platforms for rapid prototyping custom applications in scientific research.