玉器产生年代很早，考古学家在贝加尔湖地区就发现有3万年前的玉器。我国最早的玉器出土于兴隆洼文化遗址中，其中最具代表性的是玉玦，也就是带个缺口的圆环型耳饰。兴隆洼文化遗址在内蒙古赤_幼20公土可诗宝本士峰市敖汉旗，地处大凌河上游，年代距今约8200年至7400年。
关于玉器产生的原因，考古学家们也有丰富的论述。首先，在很早以前人类就开始使用动物的牙齿、骨骼、蚌壳和石头等作为身体的装饰品，既有审美上的需要，也有文化风俗的因素，还有区别身份和宗教仪式的需要。古人最早的饰品多为发饰、耳饰、臂饰、项饰和身体配饰等，而兴隆洼文化的玉玦就是耳饰中较早的典型器物，围绕玉玦和由其演化出来的诸如玉龙等玉器和饰品，成为一个十分重要的课题。从社会发展的角度来看，玉器的产生是由于社会财富的积累导致阶级分化所致，而统治阶级为了稳固权力，将宗教运用到现实政治中。著名考古学家张光直先生指出，中国的宗教从诞生起就是为政治服务的，玉器则是统治者通神的道具。
以往金石学对玉器功能的解说多是引用《周礼》的记载：“以玉作六器，以礼天地四方：以苍璧礼天，以黄琮礼地，以青圭礼东方，以赤璋礼南方，以白琥礼西方，以玄璜礼北方。”这也是后世“苍天、黄土、青龙、朱雀、白虎、玄武”思想的由来。这并非玉器诞生之时的本来用途，而且离最早玉器诞生时已经过去几千年，玉器的功能已经从神玉、王玉而下降到礼玉的阶段。
在玉器诞生不久的新石器时代，玉器作为神权的象征，其核心功能是“通神”，无论是用来祭祀还是佩戴的玉器，都是具备与神灵和祖先沟通的功能，这样才能把神灵和祖先的旨意施加给现实中的部族。
史前萨满教巫师，通过作法来和天神沟通，从而稳固精神和政治统治。通过观察羌族释比文化和一些西南少数民族的自然崇拜和社会禁忌，也可以从侧面了解原始宗教是非常复杂的，各种仪式和禁忌非常多，部落的神职人员往往需要多年的学习背诵才能学会这些口传心授的经文。新石器时代的原始宗教祭祀的详细流程如今已难以考证，而作为仪式中重要的通神道具，玉器的功用也很难准确断定，只能通过考古发掘和文献记载反复推演，选取最合理的解释作为暂时的结论。例如，良渚文化里的“玉梳背”，人们最早并不知道其功用是什么，直到后来出土了带着象牙梳子的同类器物，才确定此物是梳背，进而了解到古人对梳头的重视，因为古人认为头发是人思想、灵魂的延伸。
