혁신적인 블록체인 합의 메커니즘: PoGO 알고리즘의 등장

José I. Orlicki의 PoGO 알고리즘은 머신러닝 모델 학습을 블록체인 합의 메커니즘에 통합하여, 검증 가능하고 확장 가능한 새로운 시스템을 제시합니다. 4비트 정량화된 기울기와 Merkle 증명을 사용하여 효율성을 높였으며, GPT-3와 같은 대규모 모델에도 적용 가능성을 보여줍니다. 하지만, 긴 블록 생성 시간 등 해결해야 할 과제도 존재합니다.

최근 José I. Orlicki가 발표한 논문, "PoGO: A Scalable Proof of Useful Work via Quantized Gradient Descent and Merkle Proofs"는 블록체인 기술에 혁신적인 변화를 가져올 잠재력을 지닌 PoGO(Proof of Gradient Optimization) 알고리즘을 제시합니다. 기존의 작업증명(PoW) 방식과 달리, PoGO는 대규모 머신러닝 모델 학습을 합의 메커니즘에 통합하는 새로운 접근 방식을 취합니다.

핵심은 바로 '유용한 작업의 증명'입니다. 마이닝 과정에서 광부들은 대규모 머신러닝 모델을 학습시키고, 그 결과를 검증 가능한 형태로 제출합니다. 여기서 핵심적인 기술적 진보는 두 가지입니다. 첫째, 4비트 정량화된 기울기(quantized gradients) 를 사용하여 저장 및 계산 요구사항을 획기적으로 줄였습니다. 이는 검증 과정의 효율성을 높이고, 더욱 확장 가능한 시스템을 구축하는 데 기여합니다. 둘째, Merkle 증명을 통해 방대한 모델 파라미터 집합을 효율적으로 관리하고, 무작위 샘플링을 통한 검증을 가능하게 합니다. 이는 GPT-3(175B parameters)와 같은 초거대 모델의 검증에도 적용 가능함을 시사합니다. 논문에서는 Gemma~3 (27B parameters)와 같은 다른 고성능 모델을 참조하며, PoGO의 확장성을 강조합니다.

흥미로운 점은 검증 과정이 학습 과정보다 훨씬 저렴하다는 것입니다. 정량화와 샘플링 덕분에 가능해진 결과입니다. 하지만 의미있는 학습 단계를 통합하려면 블록 생성 시간이 늘어날 수 있다는 점(몇 시간 소요 가능성)과 특수 GPU 하드웨어 사용의 장단점, 이진 차분(binary diffs)을 이용한 업데이트 최적화 등도 논의됩니다. 더욱이, 미세 조정(fine-tuning) 또한 유사한 방식으로 처리될 수 있으며, 데이터셋과 샘플링 방법만 변경하면 됩니다.

PoGO는 검증자가 긍정적 또는 부정적 평가를 내릴 수 있도록 설계되었으며, 이러한 평가는 최종적으로 합산되어 업데이트를 확인하거나 마이너를 제재하는 데 사용됩니다. 이러한 메커니즘은 시스템의 보안성과 신뢰성을 강화하는 데 기여할 것으로 기대됩니다.

결론적으로, PoGO는 블록체인 기술과 머신러닝 기술의 융합을 통해 새로운 가능성을 제시하는 혁신적인 연구입니다. 대규모 모델 학습을 블록체인 합의 메커니즘에 통합하는 이러한 접근 방식은 향후 블록체인 기반 인공지능 시스템 개발에 중요한 영향을 미칠 것으로 예상됩니다. 하지만 블록 생성 시간 증가와 같은 과제에 대한 해결책도 앞으로 연구되어야 할 부분입니다. PoGO의 발전이 기대되는 이유입니다.