大模型时代，数据为王，在哪里寻找开源数据集？

大模型时代，数据为王，在哪里寻找开源数据集？是一个比较头疼的问题。经过调研整理，下面列出目前可以寻找开源大模型数据集网站清单，一网打尽，请您按需使用。

开源数据集网站：

1、huggingface.co开源数据集

链接：https://huggingface.co/datasets

镜像：https://hf-mirror.com/datasets

2、opendatalab开源数据集

链接：https://opendatalab.com/

3、aws亚马逊开源数据集

链接：https://registry.opendata.aws/

4、微软开源数据集

链接：https://www.microsoft.com/en-us/research/tools/

5、谷歌开源数据集

链接：https://datasetsearch.research.google.com/

没有FQ工具，暂时打不开。

6、github开源数据集

链接：https://github.com/awesomedata/awesome-public-datasets

7、modelscope开源数据集

链接：https://modelscope.cn/datasets

8、luge千言开源数据集

链接：https://www.luge.ai/

9、tianchi天池开源数据集

链接：https://tianchi.aliyun.com/dataset/

10、kaggle开源数据集

链接：https://www.kaggle.com/datasets

11、uci开源数据集

链接：https://archive.ics.uci.edu/datasets

12、计算机视觉开源数据集

链接：https://visualdata.io/discovery

13、dataju聚数力开源数据集

链接：http://dataju.cn/Dataju/web/home

14、hyper超神经开源数据集

链接：https://hyper.ai/datasets

15、baai开源数据集

链接：https://data.baai.ac.cn/data

16、百度飞桨开源数据集

链接：https://aistudio.baidu.com/datasetoverview

17、payititi帕衣提提开源数据集

链接：https://www.payititi.com/opendatasets/

18、启智开源数据集

链接：https://openi.pcl.ac.cn/explore/datasets

19、和鲸开源数据集

链接：https://www.heywhale.com/home/dataset

希望以上开源数据集网站清单，能对您训练大模型有所帮助，持续关注开源数据集，为持续大模型输送语料。

出自：https://mp.weixin.qq.com/s/ADGg6OCqjFQ-bLE-X-Q9DA