Datasets:
접근 신청 / Request access
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
이 데이터셋은 GPQA 유래 문항 54개를 포함합니다. GPQA 저자들은 문항을 온라인에 평문이나 이미지로 공개하지 말 것을 요청하고 있으며, 본 저장소는 그 요청을 존중해 접근 승인 방식으로 배포합니다. 또한 모든 원본 벤치마크와 마찬가지로 이 데이터는 평가 전용이며 모델 학습 코퍼스에 포함되어서는 안 됩니다.
This dataset contains 54 items derived from GPQA. The GPQA authors ask that examples not be revealed online in plain text or images; this repository is gated to honour that request. Like all of its sources, the data is for evaluation only and must not be used for training. By requesting access you agree to (1) not reveal items from this dataset in plain text or images online, and (2) not include it in training corpora.
Log in or Sign Up to review the conditions and access this dataset content.
한국어 화학·생물 과학 벤치마크 (난이도 분류, 용어집 통제 번역)
영문 과학(화학/생물) 벤치마크 5종에서 난이도·하위분야·출처가 균등하도록 추출한 화학 300문항 · 생물 300문항을, 원문에서 구축한 도메인 용어집을 주입해 한국어로 번역한 벤치마크입니다. 영어 원문과 한국어 번역을 한 행에 함께 담았습니다.
A difficulty-stratified Korean science benchmark: 600 items (chemistry 300 · biology 300) sampled from five English benchmarks and translated into Korean with a source-specific terminology glossary injected into the prompt. Each row keeps the English source next to the glossary-controlled Korean translation.
논문: 전문용어를 통제하면서 자동 번역 품질을 유지할 수 있는가? 화학·생물 난이도별 한국어 과학 벤치마크 구축 (Controlling Terminology Without Sacrificing Translation Quality: Building a Difficulty-Stratified Korean Science Benchmark for Chemistry and Biology), HCLT 2026. 강두찬·박소연·양현진·성진 외, ETRI.
| 화학 (chemistry) | 생물 (biology) | |
|---|---|---|
| 문항 수 | 300 | 300 |
| 난이도 상 / 중 / 하 | 121 / 87 / 92 | 94 / 88 / 118 |
| 출처 | MoleculeQA 164 · MMLU-Pro 78 · GPQA 36 · FrontierScience 22 | MMLU-Pro 248 · LAB-Bench 24 · GPQA 18 · FrontierScience 10 |
| 하위 분야 | organic_chemistry 96 · biochemistry 81 · medicinal_chemistry 48 · general_chemistry 25 · physical_chemistry 25 · inorganic_chemistry 8 · analytical_chemistry 6 · materials_polymer 6 · other_chemistry 5 | genetics 68 · molecular_biology 60 · ecology_evolution 49 · physiology_anatomy 47 · plant_biology 22 · cell_biology 18 · microbiology_immunology 16 · biochemistry 14 · other_biology 6 |
형식: 객관식 568문항 (선택지 4~10개, 정답 1개) · 단답형 32문항 (FrontierScience, 선택지 없음).
빠른 시작
from datasets import load_dataset
chem = load_dataset("duaneknag/ko-scibench-chembio", "chemistry", split="test") # 300
bio = load_dataset("duaneknag/ko-scibench-chembio", "biology", split="test") # 300
both = load_dataset("duaneknag/ko-scibench-chembio", split="test") # 600
row = chem[0]
prompt = row["question_ko"] + "\n" + "\n".join(
f"{chr(65+i)}. {o}" for i, o in enumerate(row["options_ko"])
)
# 정답: row["answer_label"] ("A"~"J"), 단답형은 row["answer_text"] 를 LLM 채점
난이도별 집계:
hard = chem.filter(lambda r: r["difficulty_en"] == "hard")
컬럼
| 컬럼 | 설명 |
|---|---|
item_id |
출처 벤치마크의 원본 id 를 포함한 고유 id |
domain |
chemistry / biology |
source |
MMLU-Pro · MoleculeQA · GPQA · LAB-Bench · FrontierScience |
source_license |
그 행에 적용되는 라이선스 (MIT · CC-BY-4.0 · CC-BY-SA-4.0 · Apache-2.0). LICENSES.md |
subset |
출처 내 하위 집합 (LAB-Bench ProtocolQA/CloningScenarios, FrontierScience olympiad). 없으면 빈 문자열 |
subfield |
도메인별 9개 하위 분야 (예: organic_chemistry, genetics). 약과학 전공 검수자 확인 |
difficulty, difficulty_en |
상/중/하 = hard/medium/easy. 8B |
label_acc, label_n_correct, label_n_trials |
난이도 라벨의 근거가 된 정답률·정답 수·시행 수 |
task |
mcq 또는 short_answer |
smiles |
MoleculeQA 문항의 분자 SMILES. 그 외 빈 문자열 |
question, options |
영어 원문 질문과 선택지 목록 (라벨 A, B, … 순서) |
answer_label, answer_text |
정답 라벨과 본문. 단답형은 라벨이 빈 문자열 |
question_ko, options_ko, answer_text_ko |
벤치마크 본문. 용어집을 주입한 한국어 번역 (논문의 조건 B) |
mt_issues |
번역 후 규칙 검사에서 남은 경고(JSON). 58행. 대부분 영·한 숫자 개수 불일치 경고(한국어가 숫자를 더 쓰는 경우 포함)이며, 그 외 원문의 제어문자·선택지 중복 |
canary, source_canary |
오염 방지 문자열. 이 데이터셋 고유 GUID 와, 원본(LAB-Bench·FrontierScience)이 요구한 카나리 |
구축 방법 (요약)
- 원데이터: MMLU-Pro, GPQA, MoleculeQA, LAB-Bench, FrontierScience 에서 화학 7,051 · 생물 1,487 문항 확보.
- 하위 분야·난이도 라벨링: 원본 메타데이터로 9개 하위 분야에 배정하고 검수자가 확인. 난이도는 8B~12B 오픈소스 모델 5개가 영어 원문을 푼 정답률로 상·중·하 구분. 출처·분야·난이도가 균등하도록 300+300 추출.
- 용어집 구축: GLiNER-BioMed 로 원문에서 용어 7,963건 추출 → 일반 과학어 제거·LLM 판정 → 검수 후 4,835건. 국내 표준 용어집 10종과 대조해 783건 매칭, 미매칭 3,014건은 LLM 번역 후 표본 검수.
- 번역: GPT-5.6-luna (reasoning effort high), 문항 전체(질문+선택지)를 한 단위로, 응답 스키마로 선택지 수 강제. 논문에서는 용어집 유무만 다른 두 조건(A: 없음, B: 있음)을 비교했으며, 이 저장소는 B 조건 번역만 담았습니다.
- 검증: 용어 수준 Exact-Match Accuracy 가 화학 63.5→86.3%, 생물 50.3→74.4%, 표기 일관성 80.8→88.3%, 77.7→86.6% (A→B). 문장 수준 품질(인간·LLM 쌍대비교, MetricX-24, TASER)은 두 조건 간 일관된 차이 없음.
- 벤치마크 검증: 7개 모델 평가에서 난이도 라벨 산출에 참여하지 않은 모델(Qwen3-32B, gpt-oss-120b)에서도 상·중·하 정답률 계단이 재현됨.
기준 성적
논문 표 4의 값입니다. 이 벤치마크(한국어 번역본)에서의 정답률(%)이며, 실행 설정은 난이도 라벨링 단계와 동일하고 지시문과 few-shot 예시는 영어로 유지했습니다.
| 모델 | 화학 | 생물 | 전체 |
|---|---|---|---|
| GPT-oss-120b† | 60.1 | 46.0 | 53.6 |
| Qwen3-32B | 46.3 | 56.0 | 50.8 |
| gemma-3-12b-it | 44.1 | 47.4 | 45.6 |
| Qwen3-8B | 38.9 | 47.4 | 42.8 |
| Ministral-3-8B-Instruct-2512 | 37.9 | 48.6 | 42.8 |
| GLM-4-9B-0414 | 36.4 | 43.4 | 39.7 |
| Llama-3.1-8B-Instruct | 21.3 | 18.0 | 19.8 |
† 추론을 끌 수 없어 별도 정책으로 평가한 모델로, 다른 모델과 직접 비교할 수 없습니다. 단답형 FrontierScience 32문항은 GPT-5 판정으로 채점해 포함했습니다.
알려진 한계
- 기계 번역 + 자동 검사 결과이며, 전문가 교정은 전문항에 적용되지 않았습니다. 번역에 대한 인간 평가는 도메인당 100문항 블라인드 쌍대비교로 진행됐습니다.
- FrontierScience 단답형 문항의 영어 지시문("Think step by step… FINAL ANSWER")은 원본 그대로 유지했습니다.
mt_issues가 비어 있지 않은 58행은 숫자 개수 불일치, 원문의 제어문자, 선택지 중복 등의 자동 검사 경고이며 번역 오류를 확정한 것은 아닙니다.- 용어집 4,835건은 참조한 국내 표준 용어집의 재배포 조건 확인 후 공개 범위를 정할 예정이라 이 저장소에 포함하지 않았습니다.
라이선스와 접근 제한
원본 벤치마크의 라이선스가 서로 달라 행마다 source_license 로 표시합니다. MMLU-Pro·MoleculeQA 유래는 MIT, FrontierScience 유래는 Apache-2.0, LAB-Bench 유래는 CC BY-SA 4.0, GPQA 유래는 CC BY 4.0 입니다. 상세와 저작자 표시는 LICENSES.md.
GPQA 저자가 문항을 온라인에 평문·이미지로 공개하지 않을 것을 요청하므로, 이를 존중해 저장소 전체를 접근 승인 방식으로 둡니다. 이는 라이선스가 요구한 것이 아니라 자발적 조치입니다. 이 데이터는 평가 전용이며 학습 코퍼스에 넣지 마십시오. 전 행에 카나리 GUID 61f64922-53c6-462a-8ff1-6ae3f81565d2 를 넣었습니다.
인용
@inproceedings{kang2026koscibench,
title = {전문용어를 통제하면서 자동 번역 품질을 유지할 수 있는가?: 화학·생물 난이도별 한국어 과학 벤치마크 구축},
author = {강두찬 and 박소연 and 양현진 and 성진 and 조상현 and 허정 and 신종훈 and 이기영 and 임수종 and 권오욱},
booktitle = {2026년도 한글 및 한국어 정보처리 학술대회 (HCLT 2026)},
year = {2026}
}
원본 벤치마크도 함께 인용해 주세요: MMLU-Pro (Wang et al., NeurIPS 2024), GPQA (Rein et al., COLM 2024), MoleculeQA (Lu et al., Findings of EMNLP 2024), LAB-Bench (Laurent et al., 2024), FrontierScience (OpenAI, 2025).
이 연구는 한국전자통신연구원 연구운영비지원사업 「과학특화 멀티모달 파운데이션 모델 개발 및 적용」(26CB1200)의 결과물입니다.
- Downloads last month
- 107