Datasets:

tiendung
/

novels

Modalities:

Size:

Dataset Viewer

The dataset viewer is not available for this dataset.

Unexpected token '<', "<html> <h"... is not valid JSON

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

TODOs

Lấy:
- vi_docln.net
- cn_qidian.com
- en_novelhall
Crawl novel ranking from https://www.webnovel.com/ranking/novel/all_time/popular_rank (done)
Lựa chọn novels để train theo ranking từ cao tới thấp => bỏ vì chỉ lấy đc ranking của top 200 truyện
Tạm thời lọc theo độ dài text của novels (ưu tiên các novel dài)
- Và loại bỏ You can read the novel online free at novelhall.com => Tìm kiếm và show mội lines có chứa keywords novelhall.com

Notes:

_cn_pixiv-novel, _cn_sis-novel bỏ vì có nội dung 18+
_en_webnovel.com bỏ vì nội dung trùng với en_novelhall
Novels thường do 1 nhóm nhỏ dịch sau đó các website khác crawl lại và publish.
Dùng https://curlconverter.com để convert website's network request > Copy > Copy all as curl (bash) thành Python code


git clone https://huggingface.co/datasets/RyokoAI/Fandom23K

git clone https://huggingface.co/datasets/RyokoAI/CNNovel125K