​Microsoft의 Phi-4는 2024년 12월에 공개된 최첨단 소형 언어 모델(Small Language Model, SLM)로, 140억 개의 파라미터를 갖추고 있습니다. 이 모델은 수학 및 코딩과 같은 복잡한 추론 작업에서 탁월한 성능을 발휘하며, 대규모 모델에 비해 효율적입니다. ​

주요 특징:

- 고품질 데이터 학습: Phi-4는 합성 데이터셋, 필터링된 공공 도메인 웹사이트 데이터, 학술 서적 및 Q&A 데이터셋을 활용하여 학습되었습니다. ​


- 다양한 버전 제공:
   1) Phi-4-multimodal: 텍스트, 이미지, 음성을 동시에 처리할 수 있는 멀티모달 모델로, 자연스럽고 상황에 맞는 상호작용이 가능합니다. ​
   2) Phi-4-mini: 텍스트 기반 작업에 최적화된 경량 모델로, 높은 정확도와 확장성을 제공합니다. ​

- 효율적인 아키텍처: Phi-4는 140억 개의 파라미터를 가진 밀집 디코더 전용 트랜스포머 모델로, 자원 제한 환경에서도 우수한 성능을 발휘하도록 설계되었습니다. ​
Medium

Phi-4는 Azure AI Foundry, Hugging Face, NVIDIA API Catalog 등 다양한 플랫폼에서 사용할 수 있으며, 연구자와 개발자들에게 강력하고 유연한 도구를 제공합니다.