related iamge

17억 매개변수 LLaMa 모델, 처음부터 끝까지: McGill-DMaS의 도전과 성공 이야기

McGill-DMaS 연구팀이 17억 매개변수 LLaMa 모델을 200억 토큰으로 학습한 경험을 공유한 논문을 소개합니다. 고품질 데이터와 효율적인 학습 전략을 통해 경쟁력 있는 결과를 달성했으며, 학습 스크립트와 모델 체크포인트를 공개하여 다른 연구자들의 발전에 기여하고 있습니다.

related iamge

딥러닝 모델의 미세 조정: 정확도 vs. 합리성 – 예측 신뢰도 향상을 위한 새로운 관점

본 연구는 VLM의 미세 조정이 예측 정확도를 높이는 동시에 예측의 타당성을 저해할 수 있음을 밝혔습니다. 새로운 지표를 활용한 실험을 통해 미세 조정된 VLM의 예측 신뢰성 향상을 위한 새로운 방향을 제시합니다.

related iamge

딥러닝 기반 이상 탐지 시스템의 치명적 약점: BadSAD 공격 프레임워크

He Cheng, Depeng Xu, Shuhan Yuan이 개발한 BadSAD는 심층 준지도 학습 기반 이상 탐지 모델(DeepSAD)에 대한 새로운 백도어 공격 프레임워크입니다. 미세한 트리거를 주입하고 잠재 공간을 조작하여 악성 이미지를 정상 이미지와 구분하기 어렵게 만들어 이상 탐지 시스템을 속입니다. 이는 산업, 의료, 보안 등 다양한 분야에서 심각한 보안 위협을 초래할 수 있습니다.

related iamge

희소 데이터 기반 수색 및 구조 작업의 혁신: 에이전트 기반 예측 확률 밀도 매핑

희소 데이터 환경에서도 효과적인 수색 및 구조 예측을 위한 에이전트 기반 모델이 제시되었습니다. 다양한 심리적 프로필을 가진 에이전트의 시뮬레이션과 몬테카를로 시뮬레이션 및 이동 시간 기반 샘플링의 결합, 그리고 실제 데이터 기반 검증을 통해 기존 방법 대비 우수한 성능을 확인했습니다. 이 모델은 다양한 지리적 환경에서의 적용 가능성을 갖추고 있으며, 수색 및 구조 작업의 효율성 향상에 크게 기여할 것으로 기대됩니다.

related iamge

혁신적인 속도! FastVLM: 비전 언어 모델의 새로운 지평을 열다

FastVLM은 고해상도 이미지 처리 속도를 획기적으로 개선한 비전 언어 모델로, 기존 모델 대비 3.2배 향상된 TTFT와 85배 빠른 처리 속도를 자랑합니다. 이미지 크기 조절만으로 최적의 성능을 달성하여 모델 설계의 단순화를 이루었습니다. 실시간 처리가 중요한 다양한 분야에 큰 영향을 미칠 것으로 예상됩니다.