huggingface/optimum-furiosa
Accelerated inference of 🤗 models using FuriosaAI NPU chips.
https://skillcdn.ai/gh/huggingface/optimum-furiosa내 AI에 이 주소를 연결하면 이 스킬들을 쓸 수 있어요. 연결 방법 보기
- 미확인
- 기본 브랜치
main - 커밋
148a427 - 라이선스
Apache-2.0
저장소 둘러보기
스킬과 문서의 원문에서 찾습니다. 화면용 번역은 검색되지 않아요.
문서
- ConfigurationThe configuration classes are the way to specify how a task should be done. Here is how a quantization can be configered:docs/source/package_reference/configuration.mdx
- ModelsThe following Furiosa classes are available for instantiating a base model class without a specific head.docs/source/package_reference/modeling.mdx
- Quantization[[autodoc]] FuriosaAIQuantizerdocs/source/package_reference/quantization.mdx