目录

qwen3-0.6b

usage:

make  (debug)
make  (debug) run

./build/qwen3_run_debug   -m qwen3-0.6b-fp32.bin   --tokens "108386,37945,109432,107828,1773"   -n 1   --dump_topk 10   --dump_layer0   --dump_n 8   --tok ./tokenizer.json   --print_ids
./build/qwen3_run_debug   -m qwen3-0.6b-fp32.bin   -p "你好,请介绍一下你自己。"   -n 1   --dump_topk 10   --dump_layer0   --dump_n 8   --tok ./tokenizer.json   --print_ids
./build/qwen3_run_debug   -m qwen3-0.6b-fp32.bin   -p "今天天气不错。"   -n 1   --dump_topk 10   --dump_layer0   --dump_n 8   --tok ./tokenizer.json   --print_ids
python3 hf_dump_topk.py  -p "你好,请介绍一下你自己。" --tok ./tokenizer.json
python3 hf_dump_topk_debug.py  -p "你好,请介绍一下你自己。" --tok . --dump_layer0   --dump_n 8

关于
15.7 GB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802032778号