Update README.md

README.md

@@ -1,65 +1,62 @@
----
-dataset_info:
-  features:
-  - name: query_docstring
-    dtype: string
-  - name: positive_code
-    dtype: string
-  - name: hard_negative_code
-    dtype: string
-  - name: similarity_score
-    dtype: float64
-  - name: query_repo
-    dtype: string
-  - name: query_path
-    dtype: string
-  - name: hn_repo
-    dtype: string
-  - name: hn_path
-    dtype: string
-  - name: hn_license
-    dtype: string
-  - name: language
-    dtype: string
-  splits:
-  - name: python
-    num_bytes: 1709467276
-    num_examples: 500000
-  - name: ruby
-    num_bytes: 771594979
-    num_examples: 466515
-  - name: javascript
-    num_bytes: 754533992
-    num_examples: 388235
-  - name: java
-    num_bytes: 1820738822
-    num_examples: 500000
-  - name: rust
-    num_bytes: 694659252
-    num_examples: 313485
-  - name: go
-    num_bytes: 923720657
-    num_examples: 500000
-  - name: php
-    num_bytes: 630296579
-    num_examples: 500000
-  download_size: 1128560243
-  dataset_size: 7305011557
-configs:
-- config_name: default
-  data_files:
-  - split: python
-    path: data/python-*
-  - split: ruby
-    path: data/ruby-*
-  - split: javascript
-    path: data/javascript-*
-  - split: java
-    path: data/java-*
-  - split: rust
-    path: data/rust-*
-  - split: go
-    path: data/go-*
-  - split: php
-    path: data/php-*
----
+---
+license: apache-2.0
+datasets:
+- Shuu12121/python-codesearch-filtered
+- Shuu12121/java-codesearch-filtered
+- Shuu12121/javascript-codesearch-filtered
+- Shuu12121/php-codesearch-filtered
+- Shuu12121/ruby-codesearch-filtered
+- Shuu12121/go-codesearch-filtered
+- Shuu12121/rust-codesearch-filtered
+tags:
+- python
+- java
+- javascript
+- php
+- ruby
+- go
+- rust
+- code
+task_categories:
+- text-classification
+language:
+- en
+---
+
+# multilingual-codesearch-hard-negativesV2
+
+このデータセットは、**多言語コード検索タスク**向けに設計された、**ハードネガティブペア**を提供します。  
+複数のプログラミング言語から収集した、フィルタ済みのコード／ドックストリング対を基に構成されています。
+
+## データセット概要
+
+各サンプルには以下の情報が含まれます。
+- `query_docstring`: 関数やメソッドの自然言語による説明
+- `positive_code`: 対応する正しいコード実装
+- `hard_negative_code`: 類似しているが意味が異なるコード（FAISSによる近傍検索で選定）
+- `similarity_score`: クエリとハードネガティブ間のFAISS類似度スコア（内積／コサイン類似度）
+- 付加情報: リポジトリ、ファイルパス、ライセンス情報、言語
+
+## 対応言語
+
+- Python
+- Java
+- JavaScript
+- PHP
+- Ruby
+- Go
+- Rust
+
+## データセット作成方法
+
+- **3行以上**のドックストリングを持つペアのみをフィルタリング。
+- 各クエリに対して、埋め込み空間内で**20件の近傍候補**をFAISS検索。
+- その中から**5件のハードネガティブ**を選択（自身は除外）。
+- コード／ドックストリングの埋め込みには [`Shuu12121/CodeSearch-ModernBERT-Crow-Plus`](https://huggingface.co/Shuu12121/CodeSearch-ModernBERT-Crow-Plus) を使用。
+- Pythonコードに対しては、**マルチラインドックストリング**を削除処理。
+
+## 想定される用途
+
+- **Cross-Encoderモデル**のトレーニング（コード検索精度向上目的）
+- **ハードネガティブマイニング**による検索性能向上
+- 多言語対応の**コード理解モデルのファインチューニング**