2024-06-11から1日間の記事一覧

【Intel Arc A770】IPEX-LLMを使わずにSYCL backendでOllamaを実行した時のベンチマーク

はじめにIPEX-LLMを使わずにSYCL backendでOllamaを実行することに成功しました。IPEX-LLMを使った時と速度比較してみました。ベンチマーク測定方法前回同様に行いました。 touch-sp.hatenablog.com 結果phi3:3.8b (model size: 2.4GB)with IPEX-LLM tokens …