VeriFact는 LLM이 생성한 의료 텍스트의 정확성을 EHR을 기반으로 검증하는 AI 시스템으로, 기존 임상의보다 높은 정확도(최대 92.7%)를 달성했습니다. 이는 LLM 기반 EHR 응용 프로그램 개발을 가속화하고 의료 AI 분야 발전에 크게 기여할 것으로 예상됩니다.

본 기사는 Dayong Ye 등 7명의 연구자가 발표한 논문 "데이터 없는 모델 관련 공격: 생성 AI의 잠재력 활용"을 바탕으로 생성형 AI의 긍정적 측면과 더불어 딥러닝 모델에 대한 공격 가능성을 제기합니다. 연구 결과, 데이터 접근 없이도 생성형 AI를 이용해 이미지 및 텍스트 모델에 대한 효과적인 공격이 가능함을 밝히며, AI 보안의 중요성과 향후 대응 방안 마련의 필요성을 강조합니다.

William Marfo, Deepak K. Tosh, Shirley V. Moore 세 연구원은 산업용 CPS의 이상 탐지 및 위치 확인 문제를 해결하기 위해 센서 신뢰도 기반 적응형 모델 집계, 동적 노드 선택, Weibull 기반 체크포인팅 등의 혁신적인 기능을 갖춘 연합 학습 프레임워크를 개발했습니다. NASA 데이터셋을 이용한 실험 결과, 기존 방법보다 우수한 성능(99.5% AUC-ROC)과 높은 내결함성을 보였습니다.

본 논문은 데이터 중복이 머신 언러닝에 미치는 영향을 최초로 종합적으로 분석한 연구로, 중복 데이터를 이용한 새로운 공격 패러다임과 탐지 회피 전략을 제시합니다. 기존 언러닝 방법의 한계를 밝히고, AI 보안 강화를 위한 새로운 방향을 제시하는 중요한 연구입니다.

본 연구는 맥락적 강화 학습 기반의 다중 모달 토큰 압축 기법을 제시하여 대규모 언어 모델의 효율성을 크게 향상시켰습니다. 다양한 모달리티 데이터에서 정확도와 의미 유지율을 높였으며, 확장성과 호환성을 확보하여 실제 응용에 대한 가능성을 열었습니다.