텐센트 엣지원 AI 게이트웨이는 대규모 언어 모델(LLM) 서비스 제공업체에 대한 액세스에 대한 보안, 가시성 및 요청 행동 제어 관리를 구현합니다.
기능
반복된 프롬프트에 대한 캐시 기술로 비용을 절감
복잡한 시나리오에 대한 재시도, 속도 제한 및 폴백 설정
AI 게이트웨이 통계에 액세스하여 프로세스와 결정을 최적화
가상 키는 LLM 제공업체 액세스를 보호하여 데이터 프라이버시를 보장
Open Edge Serverless Development Platform
serverless
오픈 엣지는 텐센트 엣지원이 개발자를 위해 만든 기술 오픈 공동 창조 플랫폼입니다. 전 세계의 엣지 노드 능력을 더욱 개방할 것입니다. 여기서 우리와 함께 새로운 세대의 서버리스 애플리케이션을 탐험하고 구축할 수 있습니다. 오픈 엣지에 참여하고 기술로 세상을 변화시키는 것을 기대합니다!