情報検索システム評価用テストコレクション構築プロジェクト NTCIRお問合せNII
NTCIR HOMEへ

NTCIR-6 HOMEへ
NTCIR-6 ミーティング
タスクの概要
・タスクの情報
CLIR
CLQA
PATENT
QAC
PILOT TASK
MuST
タスク参加方法の説明
データ
重要な日程
参加者用覚書
お問合せ
メイリングリスト
成果報告会
・成果報告会論文集

NTCIR HOMEへ

第6回NTCIRワークショップ

タスク参加申込みの手引き

[English]

はじめに:

タスクの概要とそこからリンクされている各タスクのタスク参加者募集、タスクの定義などを詳しくご検討ください。NTCIRと第6回NTCIRワークショップのサイトの情報は、随時更新されます。主要な更新はメイリングリストでもお知らせしますが、お手数ですが定期的に参照してくださいますようお願いいたします。


参加申込みと覚書:            


第6回NTCIRワークショップに参加するためには、 (1) オンライン参加登録フォームから該当するタスクへの参加申込み をし、 (2) 記名、押印をしたテストコレクション使用許諾のための覚書(参加者用)各2部ずつ郵送してください。

(1) 参加申込み:

複数のタスクに参加する場合は、各タスクごとに参加登録をしてください。その場合、複数のタスクで同じ参加グループ名やグループIDを使用することができます。

Emailアドレス: 申込書に記載したEmailアドレス は、下記のNTCIR関係の4つのメイリングリストに登録します。くわしくは

  • ntcir (NTCIRプロジェクトおよびNTCIRのテストコレクション全般のお知らせ.)
  • ntc6-workshop (第6回NTCIRワークショップの参加者全員のML)
  • 当該タスクの議論用の公開メイリングリスト
  • 当該タスクの参加者メイリングリスト(タスク内容の連絡、議論など)

正確なEmailアドレスを!: 申込書に記載されたEmailアドレスや連絡先に不備があると、タスクの研究課題遂行に必要な連絡ができません。申込書は注意深く記入してください。また、連絡先、所属等に変更があった場合は、すぐにご連絡ください。

参加と評価結果の公開: 参加研究団体名のリストは公開します。グループIDは、タスクの提出結果と評価結果を示すために使用します。評価結果は、このグループIDを使って、成果報告会の前に参加しているタスクの参加者に公開します。また、評価結果は、このグループIDを使って、成果報告会の会議録論文集で報告し、公刊します。

参加タイプ: 次の2種があります。

  • A.通常:結果を提出し、システムについて報告する。参加団体名、および、参加団体名と評価結果における略称(グループID)との対応付けを公表。
  • B.匿名:結果は提出するが、システムの詳細については、差し障りがある部分は報告しなくてもよい。参加団体名は公表するが、参加団体名と評価結果における略称(グループID)との対応付けは公表しない。

特別の事由があるときを除き、原則として「A.通常(type A)」でお願いします。

成果報告の提出: いずれの参加タイプの場合でも、参加者は、(a)結果の提出に加え、(b)会議論文集に収録する論文、(c)システム説明フォーム、 (d)NTCIRコレクションを使用した研究に関する発表論文のコピーと書誌事項、(e)研究活動報告書をご提出ください。 なお、システム説明フォームは、特許等の関連で公開できない事項については記入されなくても結構です。 会議論文集、発表論文のコピーは、テストコレクションを使用した研究成果の報告の一部として、テストコレクションで使用しているデータの著作権上の権利者に送付あるいは回覧する場合があります。あらかじめご了承ください。

成果報告の公開: 提出された成果報告は、下記のように公開しますので、ご了承ください。公開に問題がある場合は、神門までご相談ください。上記(b)の会議論文集に収録する論文は、印刷版およびオンライン版の会議論文集として成果報告会の日に公開します。成果報告会は公開の会議です。なお、NIIは特許法第30条適用団体ですので特許出願にあたっては学会発表と同様にみなすことができます。上記(c)のシステム説明フォームは会議論文集に含める可能性があります。(d)NTCIRコレクションを使用した研究に関する発表論文の書誌事項は、NTCIRを用いた研究リストの一部として、NTCIRのWEBサイトで公開します。 上記(a)の参加者が提出した実験結果は、成果報告会前に、チームIDを含む実行結果IDとともに、当該タスクの参加者に公開します。また、成果報告会後に、「提出結果アーカイブ」の一部として、希望する研究者に対し、NIIと覚書を取り交わした上で、研究目的利用を許諾します。

参加登録後の変更: 予期しない事由により、このNTCIRワークショップへの参加を中止する場合、あるいは、結果を提出できない場合は、すぐに、プログラム委員長(神門 典子, kando)と参加登録をしたタスクのオーガナイザに、ご連絡ください。 参加申込み後、参加するタスクの変更や追加参加を希望する場合は、神門と当該タスクのオーガナイザにご相談ください。サブタスクの変更はタスクのオーガナイザにご相談ください。サブタスクの変更に伴って、新たな文書データが必要になる、あるいは、不要になる文書データがある場合は、神門にもご相談ください。なお、「タスク」とは、言語横断検索、言語横断質問応答、特許検索、質問応答、MuSTの5つを指し、「サブタスク」とは、各タスクの中で設定されたものを指します。

なお、学生は、「代表者(Principle Investigator of the group)」にはなれません。指導教員を代表者としてください。「連絡先(contact person)」は、大学院生でもかまいません。

オンライン参加登録フォームの送信に問題がある場合は、フォームをダウンロードし、必要事項を記入し、Email, FAX, 郵送などのいずれかの手段で、下記のNTCIR事務局までお送りください。


(2) テストコレクション使用許諾のための覚書 (NTCIRワークショップ参加者用)

参加するタスクの覚書を2部作成し、必要事項を記入し、押印し、2部ともNTCIR事務局へお送りください

必要な覚書をダウンロードし、2部、両面印刷で作成してください。2部とも押印が必要です。両面印刷にし、必要事項を記入し、押印した覚書の原本を2部ずつ、下記のNTCIR事務局へお送りください。押印した覚書原本が必要なので、郵送あるいは宅配便などでお送りください。NII側の押印後、テストコレクションの使用許諾を示すものとして1部を参加団体に返送し、1部をNIIが保管します。記名押印した覚書のコピーをテストコレクションで使用しているデータの著作権上の権利者に送付または回覧する場合があります。あらかじめご了承ください。

各タスクの説明をよく読み、覚書末尾のリストから必要なデータセットを選択し、チェックをしてください。前回のNTCIRワークショップに参加し、「ワークショップ参加者としてNIIから使用が許諾された」データセットをお持ちの場合も、それは前回のワークショップのための許諾ですので、この第6回NTCIRワークショップで参加するタスクで同じデータセットが必要な場合は、再度、この覚書で選択をし、許諾を得てください。もし、今回のワークショップで使用するデータセットについて、NIIあるいは著作権上の権利者から「研究目的の使用許諾」を得ている場合は、この覚書で選択せずに、そのデータセットをお使いいただけます。

使用するデータの詳細については、NTCIR-6データHomeを参照してください。

(3) ワークショップの目的:[詳しくは]

NTCIRワークショップは、情報検索、テキスト要約、情報抽出、質問応答など情報アクセス技術の研究をより発展させることを目的とした評価ワークショップです。

NTCIRワークショップの目的は、

  1. 大規模な評価実験を可能にする研究基盤を提供することによって、情報検索・情報アクセス技術と関連領域の研究の一層の発展を図る
  2. システム間の比較、研究上のアイディアの交換などを行う研究者フォーラムを作る
  3. 情報検索・アクセス技術の評価手法および評価指標について研究を行なう

もっとも中心的な関心は、「いかに、実験室内の研究を実世界に適用できるようにするか!?」です。評価は、どの研究者にとっても重要な問題です--自分の研究アイディアが本当に有効なのか、改良しようとおもってだしたアイディアが本当に改良につながったのか、改悪だったのか? しかしながら、情報アクセス技術は、成功・不成功の評価基準は利用者である人間の判断であるため、大規模で信頼性のある評価を個々の実験室レベルで行なうのには多くの時間とコストがかかります。そこれで、「評価ワークショップ」では、その評価を共通に行なうことで、より多くの実験グループが研究の早い段階でそれぞれの提案手法をより信頼性の高い、大規模な評価実験によって評価することができ、かつ、参加した他のグループとあわせて、より多様なアプローチの有用性や特徴をたがいに学びあう場を提供することによって、より有効に研究のパワーを集中させて、当該分野の研究を促進しようと目指すものです。
  
このように、国内外の多数の参加グループが集まることにより、1研究グループでは、到底、試すことができないほど、多様なアプローチや手法を共通の基盤の上で、幅広く実験し、相互比較を通して、各技術の利点、欠点などを学び合うことができます。共通の基盤の上で研究者同士が深く意見交換や研究アイディアの議論をする場としても機能します。

情報検索・情報活用技術の研究では、繰り返し実験に利用できる大規模な標準的なテストコレクション(文書、研究課題、正解データを含む実験用データセット)が重要であることは、広く認められています。また、同時に、より安定し、かつ、識別力の高い評価指標とその分析、評価実験法の設計も重要な課題です。技術の進歩や社会の発展に伴い、評価手法も常に進歩・発展しつづける必要があります。多くの研究者が集まって集中して議論を進める評価ワークショップは評価手法について研究、検証をする最適な機会でもあります。評価ワークショップは、このように、大規模なテストコレクション、評価基盤、研究上のアイディアや技術の交換・移転のための研究者のフォーラムを提供することによって、研究を進めていく、新しいタイプの共同研究です。

第6回NTCIRワークショップの参加研究団体のみなさまが、この趣旨に賛同され、NTCIRワークショップでの研究を存分に楽しみ、この機会をより有効に活用し、ひいては、これが情報検索、情報アクセス技術の発展に寄与することを祈念しています。

提案、アドバイス、ご意見などございましたら、どのようなことでも歓迎です! どうぞ、お気軽にお声をかけてください。また、ご不明の点等は、下記までお問い合わせください。


NTCIRプロジェクト連絡・問合せ 

  • 学術・技術的お問合せ: NTCIRプロジェクトリーダー 神門 典子(かんど のりこ)kando
    国立情報学研究所   Phone: 03-4212-2529   Fax: 03-3556-1916
  • 事務局 (覚書の送付、参加申込み、CD申込など) : ntc-secretariat
〒101-8430
東京都千代田区一ツ橋2-1-2
国立情報学研究所 
NTCIR事務局 (1309号室)

Fax: 03-4212-2751
Phone: 03-4212-2750