셀렉트스타 주관 '2022년 행사' 디브리핑 열려...언어 모델 두각 등 시선
인공지능(AI) 학습용 데이터 수집·가공 플랫폼 전문 기업인 셀렉트스타(대표 김세엽)가 13일 서울 강남구 소재 그랜드 인터컨티넨탈 서울 파르나스에서 'AI 리더스 포럼:NeurIPS 2022 Recap' 행사를 개최했다.
이날 행사는 미국 뉴올리언스에서 지난 11월 28~12월 3일 열린 '2022년 뉴립스(NeurIPS 2022, Conference on Neural Information Processing systems 2022)를 회고하는 것으로 진행, '2022년 뉴립스'에서 조직위원으로 활동한 한국인 3인(오혜연 KAIST 교수, 안성진 KAIST 교수, 하정우 네이버 AI랩 소장)이 발표자로 나섰다. 3인 중 오혜연 교수는 학술위원장을 맡았고 안성진 교수는 워크숍 위원(체어)을, 하정우 소장은 네트워킹을 책임지는 쇼셜(Social) 위원으로 활동했다. 특히 오 교수는 내년에는 행사 전체를 책임지는 조직위원장으로 활약한다.
작년 논문 등재에 이어 '2022년' 뉴립스'에 스폰서 기업으로 참여한 셀렉트스타가 주관한 이날 행사는 온오프라인으로 진행됐고, 오프라인 현장에는 포스코를 비롯해 LG CNS, CJ AI 센터, AWS 등 기업 AI 관련 연구소장 과 센터장 10여명이 참석했다. 뉴립스'는 올해가 36회차로 3년만에 오프라인으로 열렸다. 이들 3인 외에 조경현 뉴욕대 교수도 조직위원으로 활동했고, 다수의 한국인 교수들이 논문 심사위원으로 참여하는 등 세계AI 학회에서 높아진 한국 위상을 보여줬다.
오혜연 KAIST 교수 올해 학술위원장 내년엔 조직위원장 맡아
김 대표에 이어 발표한 오혜연 KAIST 전산학과 교수는 '뉴립스'가 머신러닝 분야 가장 큰 행사이며 성숙된 면이 있다면서 '2022년 뉴립스'에 대해 "9634편의 논문이 제출됐고 이중 2672편이 채택됐다. 이중 정규 메인트랙 논문이 184개, 데이터셋 벤치마크 트랙 논문이 16개"라면서 "중요 논문 심사위원인 시니어 에어리어 체어(SAC)는 82명, 에어리어 체어(AC)는 742명, 리뷰어는 1만406명, 톱 리뷰어는 1000명이였다. 리뷰어가 1만명이 넘어 관리가 쉽지 않았다"고 밝혔다. SAC에는 서울대 한보형 교수와 미시건대 교수로 LG AI연구원에서 일하고 있는 이홍락 교수가, 또 AC에는 서울대 김건희 교수와 KAIST 신진우, 황성주 교수, 네이버AI랩 하정우 소장도 멤버로 참여했다.
'뉴립스'는 최근 몇년새 언어(랭귀지) 모델 발표가 급상승했다. 실제 올해도 언어 모델이 40편 정도 차지하며 3위를 차지했다. 1위와 2위는 거의 바뀌지 않고 있는데 올해도 뉴럴네트워크와 리인포스 러닝이 각각 1,2위를 차지했다. 두 분야 모두 발표 논문이 150편이 넘었다. 4위는 그래프 뉴럴, 5위는 페더럴 러닝, 6위는 레프리전트 러닝, 7위는 제너럴 모델, 8위는 딥 러닝, 9위는 비전 트랜스폼, 10위는 오프린 리인포스였다. 오 교수는 "페더럴 러닝(연합 학습)이 5위를 차지한게 이채로웠다"고 해석했다.
채택 논문 중 자주 나오는 단어를 나타내는 바이그램(bigrams) 상위 11~30위에는 포인트 클라우드(point cloud)가 11위를, 3d 오브텍트가 30위를 각각 차지했다. 오 교수는 "개인적으로 피직스(Physics)에 관심이 많다. 피직스를 머신러닝으로 어떻게 할까 궁금하다"면서 피직스와 관련한 논문도 다수 소개했다. 이어 휴먼(human) 분야를 언급하며 "뉴립스에는 휴먼과 AI간 협업 모델이 많지 않다. 리뷰어들이 모델 퍼포먼스에 더 관심이 많다"고 말했다. '뉴립스'가 가진 독특한 차별성으로 인지과학을 꼽으며 뉴립스가 이 분야에 관심이 많다고 덧붙였다.
오 교수는 주로 언어 모델(랭귀지 모델, LM)을 연구하고 있는데 "뉴립스에도 언어 모델이 꽤 나온다"면서 언어 모델의 5가지 키워드로 ▲비전 랭귀지(Vision Language) ▲컨트롤러블 제너레이션(Controllable generation) ▲프리 트레이닝(Pre-training, 파인 튜닝(fine-tuning) ▲디스틸레이션(Distilation) ▲프롬프트(Prompt)를 꼽았다.
주요 강연자(키노트 스피커)들과 이들의 강연 주제도 소개했다. 예컨대 데이비드 차머스(David Chalmers) 교수는 '대규모 언어 모델은 감정적인가?(Are Large Language Models Sentient?)'를 주제로 발표했다. 오 교수는 "파이어니어들은 다른 생각을 하는구나 하는 생각을 했다"고 회고했다.
키노트 스피커에는 KAIST 김주호 교수도 들어갔다. 김 교수는 '양방향 AI(Interaction Centric AI)'를 주제로 발표했는데 오 교수는 "반응이 아주 좋았다"고 들려줬다. 내년 뉴립스는 미국 뉴올리언스에서 12월 3일 열린다. 내후년은 비엔나에서 개최된다.