Hermes 사용기 1편에서 썼듯이 크레딧이 간당간당했는데, 결국 보름도 안되서 모두 소진하고 말았다.
범인은 2~3일 정도 쓴 Grok-4.6 저것만 아니었어도 좀 버텼을텐데. 뭐 그 이후에 gemini-3.7-flash 위주로 쓸 때도 하루 1.5$ 정도씩 나왔으니 어차피 한 달은 못 버틸 양이었다.
일단 한국의 자랑스러운 Solar Pro 4로 세팅바꿔두었는데, X에서 Nous Portal에서 ox-alpha 라는 비공개 모델을 8월 27일까지 무료로 제공한다는 포스트가 눈에 띄었다.
평소라면 관심을 안 갖었을텐데, 마침 토큰도 떨어졌겠다 어떤 모델인지 간단히 조회해보니 토큰 윈도우 크기가 100만인 모델이었다. 다른 건 모르겠고 일단 시중에 윈도우 크기 100만인 모델 자체가 별로 없기 때문에 안 써볼 이유가 없겠다 싶었다. 바로 고고.
나 같은 사람이 적지 않았던거 같다. 등장하자마자 단숨에 OpenRouter 전체 1위에 등극. 2등과의 격차가 엄청나다.
똑같이 무료 버프를 받고 있는 Solar Pro 4의 흥행에 영향을 주지 않았을까 싶었는데, 다행히 큰 순위 변동 없이 Closed 모델 11위 정도를 지키고 있다.
정체는?
초기엔 gemini 모델이라는 설이 많았다가, 여러가지 단서가 나오면서 Zhipu(Z.ai) 모델이라는 예상이 지배적이다.
성능은 강한 모델이지만 프론티어 1위급은 아니고 아직 충분히 검증되지 못했다는 평이다. 하루 100조 토큰 처리 용량을 주장했다는데, 확실히 하루 5조 정도 넉끈히 서빙하는 걸 보니 인프라는 짱짱한듯 하다.
세상에 공짜는 없지, 민감한 데이터는 주의해야
컨텍스트 윈도우도 크고 코딩 벤치마크도 잘 나왔으니 대량 코드베이스 밀어넣고 코딩도 마구 돌려보고 싶겠지만 실무에 사용하기는 조금 걱정이 따른다. 프롬프트와 컴플리션은 LLM 제공자가 보관하겠다고 공지가 되어있고, OpenRouter는 자신은 중계만 할 뿐이라며 책임을 전가하고 있다. 모델 학습에 사용하지 않겠다고도 공지가 되어있긴 하지만 아직 정체가 밝혀지지 않은 회사가 약속을 지킬지 말지도 모르는데 데이터를 넘겨주는 셈이라 불안하다. 스텔스 모델의 경우 개인적으로나 써야지 회사 관련된 건 안 해야지 싶다.
어차피 나는 에르메스를 개인용으로 쓸 거니까, 이런 이벤트가 재밋게 다가온다. 회사에서 제공해주는 클로드 코드 맥스로 토큰 비용 걱정 없이 살다가 토큰 비용 걱정에 이것 저것 둘러보고 홍보와 데이터 확보를 위해 공짜로 제공하는 이벤트에도 참여해보고 말이다. 클로드 원툴일때는 그냥 그런가보다 했는데, 여기 와보니 훨씬 더 치열한 경쟁이 느껴진다.