LARS는 배치(batch) 크기를 키운 대규모 학습이 보다 안정적으로 이루어질 수 있도록 돕는 최적화 알고리즘입니다. 카카오브레인은 이 LARS를 누구나 쉽게 사용할 수 있도록 GPU 동작에 최적화된 파이토치용 LARS 라이브러리를 개발했습니다. 지난 7월부터 2개월간 진행된 프로젝트의 개발 뒷 이야기를 정리했습니다.

카카오브레인 AutoLearn 연구팀은 데이터 수가 매우 적은 상황에서도 모델을 훈련시킬 수 있는 퓨샷 러닝(few-shot learning) 연구를 진행하고 있습니다. 자사가 고안한 퓨샷 러닝 알고리즘인 EGNN의 구조와 학습 과정, 그 성능에 대해 소개합니다.

카카오브레인은 카카오와 함께 딥러닝 기반 음성합성(TTS) 모델인 딥 보이스(DeepVoice)를 공동 개발했습니다. 이 딥보이스를 카카오 i의 뉴스 읽기 서비스 탑재하기까지의 과정에 대한 자세한 이야기를 들어보고자 소형준 카카오브레인 연구원을 만나봤습니다.

카카오브레인 AutoLearn 연구팀은 데이터 수가 매우 적은 상황에서도 모델을 훈련시킬 수 있는 퓨샷 러닝(few-shot learning) 연구를 진행하고 있습니다. 퓨샷 러닝에 대한 간략한 개념을 설명하고, 자사가 고안한 알고리즘에 영향을 준 거리 학습과 그래프 신경망에 기반한 퓨샷 러닝 최신 연구 동향 6편도 소개해드립니다.

카카오브레인은 AutoCV에 참가한 84팀 중 1위, AutoCV2의 34개 참가팀 중 1위라는 성적을 거뒀습니다. 백운혁 연구원을 만나 카카오브레인 AutoML 연구팀이 참가한 AutoCV 대회 정보와 우승 비결에 관한 자세한 이야기를 들어봤습니다.

GPipe는 1개의 GPU로 학습시킬 수 없는 거대한 모델을 효율적으로 훈련하기 위해 고안된 파이프라인 병렬화 알고리즘입니다. 카카오브레인은 누구라도 쉽게 GPipe를 사용할 수 있도록 하고자 파이토치용 GPipe 라이브러리를 개발했습니다. 지난 2월 부터 4개월간 진행된 프로젝트 뒷 이야기를 글로 정리했습니다.

카카오와 카카오브레인이 팀을 이뤄 출전한 문법 교정 대회에서 2등이라는 성과를 거두었습니다. 이번 시간에는 공동 연구팀이 차별화를 꾀한 문맥 인식 철자 검사기와 DAE 사전 훈련을 활용해 구축한 문법 교정 시스템의 성능 평가 결과를 공유해드리고자 합니다.

딥러닝 모델을 충분히 훈련하려면 많은 데이터를 확보하는 기법 중 하나로 어그먼테이션(Augmentation)이 소개되고 있습니다. 최근에는 구글이 데이터에 최적화된 어그먼테이션 기법을 자동으로 찾아주는 알고리즘도 개발했습니다. 이런 기술 동향에 대해 자세히 설명합니다.

김일두 연구원이 메디컬 데카스론의 과제와 문제 해결 방법론, 챌린지를 통해 느낀점을 공유하는 시간을 가졌습니다.

카카오브레인과 카카오모빌리티가 함께 고안한 택시 수요 예측 모델인 TGNet의 아키텍처를 소개합니다.

KANU(카카오브레인, 서울대 연구팀)가 유튜브 8M 챌린지 최종 5위에 올랐습니다. 김은솔 연구원과 김종석 연구원의 챌린지 도전기(aka.삽질기)를 들려드립니다.

브레인 클라우드는 연구자들이 딥러닝 연구에 집중하는 환경을 제공해주는 클라우드 플랫폼입니다. 상용 서비스를 이용하는 대신 자체적으로 클라우드를 구축한 이유는 무엇일까요?

수학자가 인공지능 분야에서 어떻게 혁신을 일굴 수 있을까요? 그리고 그 혁신을 일굴려면 공학자와 어떻게 일해야 할까요?