게임기로만 알던 PS5가 집 안의 개인용 AI 서버로 변신했다. 개발자 cobanov가 공개한 PS5LM은 탈옥(jailbreak)된 PlayStation 5의 GPU 위에서 llama.cpp를 구동해, GGUF 포맷의 언어 모델을 노트북이나 스마트폰 같은 네트워크 내 기기에 서빙하는 오픈소스 프로젝트다. 별도의 PC나 클라우드, 계정 없이도 콘솔 한 대가 로컬 AI 서버 역할을 한다는 점에서 눈길을 끈다.

PS5가 AI 추론 서버가 되는 방식

PS5LM의 핵심은 llama.cpp를 PS5용으로 포팅한 것이다. 원문에 따르면 C++로 작성된 ps5-homebrew-ui 기반 인터페이스 위에서, llama.cpp가 ggml-vulkan 백엔드를 통해 PS5_Vulkan의 RADV 드라이버를 활용해 GPU 추론을 수행한다. 이 모든 빌드는 리눅스 환경에서 이뤄졌다고 설명되어 있다. 즉 PS5 내부의 AMD GPU를 Vulkan API로 직접 두드려 모델 연산을 처리하는 구조로, PC용 llama.cpp가 콘솔이라는 낯선 플랫폼 위에서 그대로 동작하도록 이식된 셈이다.

실행된 모델이 로드되면 PS5는 홈 네트워크 안에서 추론 서버로 작동한다. 노트북, 휴대폰, 코딩 도구 등 네트워크에 연결된 모든 기기가 이 PS5를 통해 모델에 요청을 보낼 수 있다. 원문에서 소개된 데모 영상에서는 PS5 Slim에서 구동 중인 Qwen 3.5 9B 모델이 노트북의 요청에 응답하는 장면이 등장한다.

지원 모델과 OpenAI·Anthropic 호환 API

PS5LM은 기본적으로 Qwen 3.8을 시작으로 다양한 GGUF 모델을 지원한다. 주목할 점은 OpenAI와 Anthropic API 규격을 그대로 흉내 내는 호환 엔드포인트를 제공한다는 것이다. 이 덕분에 opencode, Codex, Claude Code 같은 기존 코딩 도구들이 별도의 수정 없이 PS5를 로컬 모델 서버처럼 바라보고 사용할 수 있다. 사용법은 프로젝트의 docs/CLI.md 문서에 정리돼 있다고 안내된다.

UI 구성도 TV 화면에 맞춰 Home, Models, Console, API, Settings 다섯 개의 메뉴로 단순화되어 있어, 리모컨이나 컨트롤러로 조작하는 거실 환경에 맞게 설계된 것으로 보인다.

새로 추가된 결정 모델(Decision Model) 기능

이번 업데이트에서 함께 소개된 기능은 Ollaya 방식의 결정 모델 지원이다. Ollaya는 PC에서 오픈 결정 모델을 Ollama처럼 돌리는 도구로 언급되는데, PS5LM은 이와 동일한 개념을 콘솔로 가져왔다. 결정 모델은 텍스트를 생성하는 일반 LLM과 달리, 주어진 상태(state)를 읽고 한 번의 forward pass만으로 타입이 정해진 질문에 확률 보정된 답을 내놓는 방식이다. 원문은 d1, Clef, OpenJev 같은 Jev 계열 결정 모델을 예로 들며, PS5의 GPU에서 이를 실행해 Ollaya와 동일한 /v1/systemone API로 응답할 수 있다고 설명한다. 추천 목록에는 d1 Omni 600M, d1 3B, Clef Flash가 올라 있으며, llama.cpp의 결정 모델 메타데이터를 담은 GGUF라면 동일한 방식으로 로드되어 앱이 자동으로 결정 모델로 인식한다.

실행 조건과 라이선스, 설치 시 주의할 점

PS5LM을 사용하려면 펌웨어 7.00~13.60 사이에서 탈옥된 PS5와 지정된 페이로드가 필요하다. 업데이트는 새 폴더를 기존 폴더 위에 덮어씌우는 방식으로 이뤄지며, 설정값과 모델, 다운로드 파일은 /data/PS5LM 경로에 유지된다. 프로젝트 자체는 GPL-3.0-or-later 라이선스를 따르지만, 포함된 llama.cpp는 원래의 MIT 라이선스를, 폰트 Manrope는 OFL 라이선스를 그대로 유지한다고 명시돼 있다. 저장소에는 소니의 SDK 파일, 키, 펌웨어, 모델 가중치가 전혀 포함되어 있지 않다는 점도 강조된다. 또한 PS5LM은 소니 인터랙티브 엔터테인먼트와 무관한 비공식 프로젝트이며, “PlayStation”과 “PS5″는 소니의 상표임을 명확히 밝히고 있다.

한국 개발자 입장에서 눈여겨볼 점

이 프로젝트는 당연히 탈옥 자체가 선행돼야 하고, 탈옥은 보증 상실과 약관 위반 소지가 있는 행위이므로 실제로 시도하려는 사용자는 그 위험을 충분히 인지해야 한다. 다만 기술적으로는 유휴 상태로 방치되기 쉬운 콘솔 GPU를 활용해 가정 내 프라이빗 AI 서버를 꾸릴 수 있다는 아이디어 자체가 흥미롭다. 이미 PC나 라즈베리파이, 미니 서버로 로컬 LLM을 돌리는 사례는 많지만, 거실의 PS5라는 익숙한 하드웨어를 그대로 활용하면서 OpenAI·Anthropic 호환 API로 기존 코딩 도구와 바로 연동된다는 점은 로컬 AI 실험에 관심 있는 개발자에게 참고할 만한 사례다. 다만 원문에는 실제 추론 속도나 구체적인 벤치마크 수치가 공개되어 있지 않으므로, 실사용 성능은 추가 확인이 필요하다.

원문: Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console