Hugging Face's logo

Datasets:
ichikara-ai
/
ichikara-jmtbench

Modalities:
Text
Languages:
Japanese
Size:
< 1K
License:
Dataset card Data Studio Files
xet
Community
1

You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

本データセットを利用するには、LICENSEおよび以下の個人情報取扱条項への同意が必要です。

個人情報の取扱いについて

  1. 本データセットに関する合意の際に、ご提供いただいた氏名、メールアドレス、所属組織名等の個人情報は、以下の目的のために使用します。
  • 本データの提供・運営
  • お問合せ、お申込み、ご意見などの受付・対応・管理及び各種手続き
  • 当社の事業活動に関するマーケティング活動、コンテンツ・広告配信、及び調査等への協力依頼
  • 当社が提供する新たなデータ・サービス等の開発、利用傾向・ニーズを把握し今後のサービス改善を目的とした分析、分析結果に基づくサービス等の提案
  • 当社の事業活動に係る統計データの作成

  1. 当社は、法令に定める場合を除き、個人データをご本人の同意を得ないで第三者に提供することはありません。また、個人データの取扱いの全部又は一部を外部委託する場合には、委託先と契約締結等を行い、委託先において個人データの安全管理が図られるよう、必要かつ適切な監督を行います。

  2. 保有個人データ（当社が、開示、内容の訂正、追加又は削除、利用の停止、消去及び第三者への提供の停止を行うことのできる権限を有する個人データであって、その存否が明らかになることにより公益その他の利益が害されるものとして個人情報保護法施行令で定めるもの以外のもの）の開示等、又は個人データの取扱いに関するお問い合わせ・ご相談等は以下の窓口までご連絡ください。legal@ichikara.ai

Log in or Sign Up to review the conditions and access this dataset content.

ichikara-jmtbench 定義書

2025 年 4 月 4 日
株式会社いちから

1. データの概要

ichikara-jmtbench の定義を行う。これはいわゆる MTbench のようなオリジナルの日本語データである。フォーマットは MTbench101 を参考にしているがデータ構成が異なるために、異なる部分があることに注意されたい。下記の 8 分野についてのデータがある。

分野 データ数
math 75
STEM 70
writing 50
humanities 50
roleplay 50
reasoning 75
coding 49
extraction 43

2. ファイルとバージョン

バージョンは、ファイル名及びデータ ID に利用される。二つの数字からなる。
ファイル名は下記のような構造になっている。
ichikara-jmtbench-<MajorVersion>-<MinorVersion>.json

バージョンの定義

  • MajorVersion：データのメジャーバージョン（この番号が違うデータ間は互換性がなく、同時に使うことは避けるべきである）
  • MinorVersion：データのマイナーバージョン（同じメジャーバージョンのデータの追加時などに用いられ、同じメジャーバージョンであれば同時に利用しても構わないが、データに重複がある場合も存在する。ただし、質問文や回答に訂正が入った場合には、基本的にメジャーバージョンが更新される）

ファイル内のデータフォーマットは JSON 形式とする。本マニュアル末尾の＜付録（具体例）＞参照のこと。

3. データ項目

各データ項目は、ユーザーおよびシステムの対話、つまり、user の質問文と bot の回答からなる対話の配列である"history"、及び、そのデータの特性を表すタグ（meta）からなる JSON 形式で作成されている（以下の図、及び、最下部の付録を参考のこと）。

[
    {
        "ID":"データID",
        "meta":{
            "domain":"分野",
        },
        "history":[
            {
                "user":"質問文",
                "bot":"回答"
            },
            {
                "user":"質問文",
                "bot":"回答"
            },
        ]
    },
    ....
]

以降、各項目について説明する。

【データ ID】

データ ID の形式は以下の通りである。本データはすべて同じ値となる。

Ichikara-jmtbench-<MajorVersion>-<MinorVersion>-<ID>

  • MajorVersion：上記２を参照
  • MinorVersion：上記２を参照
  • ID：各データの ID

【分野】

各対話の分野を表す。1 で示した表を参照されたい。

【質問文】

ユーザの質問文である。任意の文字列で記載され、改行は"\n"、,タブ文字は"\t"で記載されている。

【回答】

システム側の回答である。任意の文字列で記載され、改行は"\n"、,タブ文字は"\t"で記載されている。

＜付録（具体例）＞ 

    {
        "ID": "ichikara-jmtbench-001-001-0000341",
        "meta": {
            "domain": "stem"
        },
        "history": [
            {
                "user": "道路の舗装にはどのような種類があるか？",
                "bot": "道路の舗装には大きく分けて2種類あり、**アスファルト舗装**と**コンクリート舗装**があります。  \n日本の舗装の大半がアスファルト舗装であり、その比率はアスファルト舗装が95%に対しコンクリート舗装が5%で、先進国の中でも非常に高い割合です。\n\n### アスファルト舗装\nアスファルト混合物というアスファルトと砂利・砂・石粉を混ぜて冷やして固めたものを用いた舗装です。 短期間で完成し、施工費用が安いのがメリットですが、耐久性に劣り、ひび割れや変形（わだち掘れ）が起きやすく、補修の頻度が高く、長期的に見ると費用が嵩む可能性もあります。\n\n### コンクリート舗装\n石灰石や粘土などを焼成し粉末にしたセメントと水・砂利・砂を混ぜて固めたコンクリートを用いた舗装です。耐久性が高いため、大型車が多く通る道路やトンネル内など補修工事が難しい道路に用いられます。ひび割れや変形が発生しにくく、車の燃費が向上するというメリットがある一方で、完成に時間がかかり、施工費用が高くなるのがデメリットとなります。また、壊れた場合の補修が難しく、時間と費用がかかります。\n"
            },
            {
                "user": "日本の舗装は何故、アスファルト舗装が多いのか？",
                "bot": "日本でのアスファルト舗装とコンクリート舗装の普及率に違いが生まれた要因の一つに設置から道路の使用可能になるまでの速さがあります。  \n\n日本では、戦後、道路を急速に整備していく必要性に迫われ、それまでのコンクリート舗装からアスファルト舗装に切り替わりました。特に1964年の東京オリンピックの頃は、道路整備が急ピッチで行われたため、初期費用が安く、すぐに使えるアスファルト舗装が適していたということで、以降、アスファルト舗装が主流となっています。\n\nただし、原油で作られるアスファルトは100％輸入に頼っているため、近年価格が高騰しています。それに対し、コンクリートの原料は国内で調達可能であることから価格が安定しており、さらにコンクリート舗装に必要な費用は、この10年間で半減しました。  \n従って、今後はコンクリート舗装やプラスチック材料などの新素材の舗装に変わる可能性もあります。"
            }
        ]
    },
Downloads last month
3