补充readme
过程轨迹评估标注辅助程序
python版本: 3.9 其他包安装: 在项目根目录下,pip install -r requirements.txt
1.main.py下需自行配置input_file与对应的output_file 2.translation_service.py下client = OpenAI(api_key=”XX”, base_url=”https://api.huiyan-ai.cn/v1/") 此处的key更换为群里提供的key(进行简单的翻译降低标注难度)
python main.py
1,以expert_eval/raw_data/init_data/infer_trace_gpt-5-chat/f.json为例,其中的process_trace对应value为一个字符串,由question,golden_answers,infer_answer以及infer_process组成 按需替换、补充对应expert_eval/raw_data/P0下数据 2,从指定id位置继续标注
针对多跳搜索任务的执行过程轨迹进行标注的辅助程序
©Copyright 2023 CCF 开源发展委员会 Powered by Trustie& IntelliDE 京ICP备13000930号
ProcessTrajectoryAnnotation_AssitantTool
项目介绍
过程轨迹评估标注辅助程序
环境配置
python版本: 3.9 其他包安装: 在项目根目录下,pip install -r requirements.txt
初始参数设置
1.main.py下需自行配置input_file与对应的output_file 2.translation_service.py下client = OpenAI(api_key=”XX”, base_url=”https://api.huiyan-ai.cn/v1/") 此处的key更换为群里提供的key(进行简单的翻译降低标注难度)
项目运行
python main.py
注意:由于待标注数据是通过字符切割生成的,因此可能出现少量异常数据,此时需要先保存并退出,然后使用expert_eval/raw_data/init_data目录下对应的原始数据进行修复
1,以expert_eval/raw_data/init_data/infer_trace_gpt-5-chat/f.json为例,其中的process_trace对应value为一个字符串,由question,golden_answers,infer_answer以及infer_process组成 按需替换、补充对应expert_eval/raw_data/P0下数据 2,从指定id位置继续标注