Shenyang Liu, Saleh Almohaimeed, Liqiang Wang 세 연구원이 개발한 REFORMER는 ChatGPT를 활용하여 Text-to-SQL 모델의 훈련 데이터 부족 문제를 해결하는 혁신적인 데이터 합성 프레임워크입니다. 'retrieve-and-edit' 방식과 순환 일관성 검증, 그리고 ChatGPT 기반 패러프레이징을 통해 기존 방법보다 우수한 성능을 달성했습니다.

리 진양, 현 상원, 앨리 바바르 연구팀이 개발한 DDPT는 Gaussian Noise로부터 최적의 프롬프트 임베딩을 생성, LLM 기반 코드 생성의 프롬프트 엔지니어링 자동화를 실현했습니다. LLM의 코드 생성 손실을 활용한 학습으로 최적 프롬프트 임베딩 분포를 효과적으로 학습하며, 코드 생성 최적화에 효과적임을 보여주는 혁신적인 기술입니다.

본 연구는 대규모 언어 모델(LLM)을 활용하여 소셜 미디어 데이터로부터 약물 부작용 정보를 추출하고 지식 그래프를 구축하는 시스템을 제시합니다. 세마글루티드를 대상으로 Reddit 데이터를 분석하여 얻은 결과는 FAERS 데이터와 비교 분석되었으며, 환자 중심의 심층적인 부작용 분석 및 의료 전문가와 환자에게 유용한 정보를 제공합니다. 이 연구는 AI 기술의 의학 분야 적용 가능성을 보여주는 중요한 사례입니다.

본 연구는 GPT-4 기반 합성 데이터와 MIMIC-CXR 데이터를 활용하여 LLM을 학습시켜 방사선과 보고서 오류 검출 정확도를 향상시킨 결과를 제시합니다. 특히, 파인튜닝된 Llama-3-70B-Instruct 모델이 우수한 성능을 보였으며, 실제 의사 검토 결과에서도 모델의 유용성이 확인되었습니다. 이는 의료 분야 AI 활용의 새로운 가능성을 제시하지만, 지속적인 연구와 윤리적 고찰이 필요함을 시사합니다.

Ogasa와 Arase 연구팀은 대규모 언어 모델의 환각 문제 해결을 위해 어텐션 매트릭스의 다양한 특징을 활용한 혁신적인 탐지 기법을 제시했습니다. Transformer 기반 분류기를 통해 토큰 단위로 환각을 정확히 판별하며, 특히 긴 입력 컨텍스트에서 우수한 성능을 보였습니다. 이 연구는 AI의 신뢰성과 안전성 향상에 크게 기여할 것으로 기대됩니다.