기술 블로그
AI 대규모 모델, API 개발 및 최신 기술 트렌드 탐구 — SiCore TokenWorks 팀의 기술 공유
중국산 대형 모델 API는 어떻게 선택해야 할까? 실리콘-카본 상변화 엔지니어가 분석하는 놓치기 쉬운 세 가지 차원
지난 2년간 팀을 위해 여러 번 중국산 대형 모델 API를 선정해왔는데, 밟아본 함정이 코드보다 많았습니다. 초기에는 가격만 보고 어디가 싼지에 따라 골랐는데, 출시 사흘 만에 인터페이스가 타임아웃되기 시작했습니다. 이후에는 모델 성능 순위표를 보고 점수가 높은 것을 연결했더니
실리콘-카본 상전이 관찰: 대규모 모델 API 가격 인하 이면에 가려진 전기요금账
대규모 모델 API의 가격은 지난 2년간 계속 내려갔다. DeepSeekV3는 백만 Token당 입력 가격을 몇 위안 수준으로 낮췄고, Qwen, Doubao, ERNIE가 차례로 뒤따랐으며, GPT4o와 Claude 4 Sonnet의 호출 비용도 출시 당시보다 한참 낮아졌다.
대규모 모델 API 비즈니스 접목의 네 단계, token8341 엔지니어가 각 단계에서 해야 할 일을 해부하다
많은 팀이 대규모 모델 API를 비즈니스에 접목할 때 한 번에 완성하려는 습관이 있습니다. 그 결과 프로토타입 단계에서 어떤 모델을 선택할지 고민하고, 프로덕션 단계에 이르러서야 Key가 사방에 흩어져 있고 청구서가 맞지 않는다는 것을 발견합니다. 사실 AI 기능 접목에는 리듬
대규모 모델 API 청구서가 갑자기 두 배가 되었다고? token8341 엔지니어가 파헤친 4가지 숨은 Token 블랙홀
결론부터 말하자. 대규모 모델 API 비용 폭증은 80%가 공격을 받아서가 아니라, 코드 속 몇 가지 눈에 띄지 않는 호출 습관이 몰래 돈을 태우고 있기 때문이다. 한 지능형 고객센터 프로젝트의 월 청구서가 8,000에서 3만으로 뛰었을 때, 사장님의 첫 반응은 "해킹당한 거
대규모 모델 API 통합 플랫폼, 어떻게 선택할까? token8341 엔지니어가 분해한 네 가지 핵심 지표
먼저 결론부터 말하자면, 중국 내에서 비즈니스를 운영한다면 대규모 모델 API 통합 플랫폼을 선택할 때 모델 수는 가장 중요하지 않은 지표입니다. 해외의 한 통합 플랫폼은 수백 개의 모델을 올려두고 있지만 서버가 해외에 있어 중국 내 호출 지연이 높고, 중국산 모델 커버리지도
token8341 회고: 예산을 세 배 초과한 고객센터 챗봇 청구서, 돈은 어디로 갔나
결론부터 말하자. 고객센터 챗봇이 돈을 태우는 이유는 십중팔구 모델 단가가 비싸서가 아니라 호출 방식에 문제가 있기 때문이다. 우리 내부의 일일 활성 사용자 수천 명 규모의 애프터서비스 Q&A 봇이 출시 첫 달에 청구서가 예산의 세 배까지 치솟았다. 원인을 추적해 보니 모델 단