File size: 4,058 Bytes
e20ef19 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 |
import argparse
import os
def get_args():
parser = argparse.ArgumentParser(description="ChatQA-HF")
## model
parser.add_argument('--model-id', type=str, default='', help='model id')
parser.add_argument('--model-folder', type=str, default='', help='path to the folder containing the model')
parser.add_argument('--model-name', type=str, default='', help='name of the model')
## dataset path
parser.add_argument('--data-folder', type=str, default='', help='path to the datafolder of ChatRAG Bench')
parser.add_argument('--output-folder', type=str, default='', help='path to the datafolder of ChatRAG Bench')
parser.add_argument('--eval-dataset', type=str, default='')
parser.add_argument('--doc2dial-path', type=str, default='doc2dial/test.json')
parser.add_argument('--convfinqa-path', type=str, default='convfinqa/test.json')
parser.add_argument('--quac-path', type=str, default='quac/test.json')
parser.add_argument('--qrecc-path', type=str, default='qrecc/test.json')
parser.add_argument('--doqa-cooking-path', type=str, default='doqa_cooking/test.json')
parser.add_argument('--doqa-travel-path', type=str, default='doqa_travel/test.json')
parser.add_argument('--doqa-movies-path', type=str, default='doqa_movies/test.json')
parser.add_argument('--hybridial-path', type=str, default='hybridial/test.json')
parser.add_argument('--inscit-path', type=str, default='inscit/test.json')
## others
parser.add_argument('--out-seq-len', type=int, default=64)
parser.add_argument('--num-ctx', type=int, default=5)
parser.add_argument('--max-tokens', type=int, default=64)
parser.add_argument('--expected-samples', type=int, default=500, help='expected number of samples in dataset for completion check')
parser.add_argument('--stop-strings', type=str, nargs='+', default=["<|endoftext|>", "<extra_id_1>", "<extra_id_1>User"], help='stop strings for generation')
parser.add_argument('--device', type=str, default='cpu', help='device to run on: cpu or cuda')
parser.add_argument('--limit', type=int, default=None, help='limit the number of samples to process')
args = parser.parse_args()
return args
def get_args_scores():
parser = argparse.ArgumentParser(description="ChatRAG Evaluation Scores")
# Directory paths
parser.add_argument('--results-dir', type=str, required=True,
help='Directory containing model prediction results (subdirectories for each model)')
parser.add_argument('--data-path', type=str, required=True,
help='Path to ground truth data directory containing JSON files')
parser.add_argument('--output-csv', type=str, default=None,
help='Output CSV file path (default: <results_dir>/scores.csv)')
# Dataset options
parser.add_argument('--datasets', type=str, nargs='+',
default=['doc2dial', 'quac', 'qrecc', 'topiocqa', 'inscit',
'coqa', 'hybridial', 'sqa', 'doqa_cooking',
'doqa_travel', 'doqa_movies', 'convfinqa'],
help='List of datasets to evaluate')
# Dataset file paths (relative to data-path)
parser.add_argument('--doc2dial-path', type=str, default='doc2dial/test.json')
parser.add_argument('--convfinqa-path', type=str, default='convfinqa/test.json')
parser.add_argument('--quac-path', type=str, default='quac/test.json')
parser.add_argument('--qrecc-path', type=str, default='qrecc/test.json')
parser.add_argument('--doqa-cooking-path', type=str, default='doqa_cooking/test.json')
parser.add_argument('--doqa-travel-path', type=str, default='doqa_travel/test.json')
parser.add_argument('--doqa-movies-path', type=str, default='doqa_movies/test.json')
parser.add_argument('--hybridial-path', type=str, default='hybridial/test.json')
parser.add_argument('--inscit-path', type=str, default='inscit/test.json')
args = parser.parse_args()
return args
|