「小乘」一名，最初是大乘佛學興起並盛行後對部派佛學的貶稱，後來用作歷史名詞，主要指上座部系統的佛教流派，如從說一切有部演化和分裂出的毗婆沙派和經量部等。「小」的梵文hina，含有卑賤、下賤和道德上屬於「惡行」之意，當然部派佛學自己是不會接受這一貶稱的。他們不但認為自己是佛教的正統，而且指責大乘非佛說，認為大乘佛教的教義學說是杜撰的。為保持佛教的純正，正統的佛教部派不斷將大乘教徒逐出僧團，並一再舉行佛典結集，抵制新興的大乘經典。
大乘佛教在學說上與以往的佛教有很大的不同，它與小乘佛教的區別主要表現在教義理論和宗教實踐等以下幾個方面。
1．佛陀觀。小乘佛教雖然已有將佛陀神化的傾向，但基本仍保留著對佛陀的歷史看法，將他視為人間的尊者，主張佛在僧數；而大乘佛教將佛陀作為超人的存在而加以神化。小乘一般認為佛只有一位，即釋迦牟尼，佛身的特殊只是三十二相、八十種好而已；大乘佛教則認為十方三世有無數無量的佛，佛身由諸佛的「生身」發展為「法、報、化」三身，釋迦牟尼只是佛陀的無量化身之一，並開始雕塑供奉各種各樣的佛像。
2．修行的目標。小乘偏重於個人的解脫，大乘則致力於普度眾生。小乘以證得阿羅漢果為最高目標，具體來說有所謂「四向四果」(須陀洹向、須陀洹果、斯陀含向、斯陀含果、阿那含向、阿那含果、阿羅漢向、阿羅漢果)；大乘則以究竟成佛，建立佛國凈土為最終目的。在普度眾生的過程中，可以先做菩薩，自利利他，有所謂「十地」(歡喜地、離垢地、發光地、焰慧地、難勝地、現前地、遠行地、不動地、善慧地、法雲地)、「五十二位」(十信、十住、十行、十迴向、十地、等覺、妙覺)等菩薩修行的階次。小乘佛教經常把修行的最高境界涅槃描述為「灰身滅智，捐形絕慮」的狀態，大乘則認為並不存在一個獨立於世間之外的涅槃境界，反對離開世間追求超世間的涅槃，認為達到涅槃只不過是消除無知，認識諸法實相而已。
3．修行內容與方法。小乘一般主張修習「三學」(戒、定、慧)或三十七道品(四念處、四正勤、四如意足、五根、五力、七菩提分、八正道分)，大乘則提倡兼修六度(布施、持戒、忍辱、精進、禪定、智慧)、四攝(布施、愛語、利行、同事)。小乘強調出世，一般要求出家過禁慾生活，大乘，特別是初期大乘，則很重視在家，並不強調出家。在家眾地位的提升，是大乘佛教的重要特點之一。
4．理論學說方面。小乘一般比較拘泥於佛說，大都主張「人空法有」，即只承認「人無我」而不否定宇宙萬法的實在性。大乘則比較注重對佛說加以自由解釋與發揮，主張「人法兩空」，用緣起來論證性空，講空不離「假有」或「妙有」。大乘講空，意在利他，以空為用，而不以空為止境，即「以無所得為方便」。
5．生活習慣方面。部派佛教延續原始佛教托缽乞食的生活習慣，不禁肉食。佛陀時代制定的戒律表明有三種肉病者可食，即眼不見殺，耳不聞殺，不疑為我殺。大乘佛教的許多經典都反對肉食，如《涅槃經》、《楞伽經》、《央掘魔羅經》、《楞嚴經》等，這一點對後來漢傳佛教形成「素食佛教區」影響很大。
通過上述大小乘佛教的對比，可以看到，大乘佛教的核心是行菩薩道。部派佛教對原始生活方式的固執、對教義的死守和對枝末問題的固定，使活潑的佛法變成了嚴密的理論，而大乘佛教的宗旨則是放棄枝末問題的詮釋分析，直探佛陀本懷，在堅持佛教根本原則(三法印)的基礎上，發揮自覺覺他、自利利他、兼濟眾生的應有作用，使佛法再度成為人間的、實用的、生活的。正是這種以利他為先導，上求佛道、下化眾生的菩薩精神，使大乘佛教具有極強的生命力，終於取代部派佛教而成為印度佛教的主流。
大乘佛教興起後，部派佛教的發展並沒有結束，佛教史上出現了大小乘並行發展的局面。從公元150年到5世紀末，部派佛教主要流行於印度中部、西北部，先後形成了上座部、有部、經部、經量部等派別，一度還十分發達，繼續與大乘佛教相抗衡。如唯識學派的創始人無著、世親二兄弟早先都是在有部出家，後來才改宗大乘。
大小乘佛教在兩漢之際同時流傳到中國，分別以安世高傳譯的小乘禪數學和支婁迦讖傳譯的大乘般若為代表。南北朝時期，佛教界有不少人專門從事小乘思想的研究，產生了弘揚小乘《阿毗曇》、《俱舍論》、《成實論》思想的學派，有少數僧人不信大乘教法，也有人大小乘兼弘並信。但總的來看，以儒道為主的中國傳統文化更具「大乘氣象」，更適合大乘思想的生根與發展，因此，隋唐以後，大乘佛教無可爭議地成為中國佛教的主流。我國西藏地區盛行的密教也是由大乘佛教發展起來的。但雲南地區的傣族、布朗族、德昂族等民族，由於受到南方佛教的影響，迄今仍然信仰小乘教法。
需要指出的是，現代學者習慣上仍沿用大、小乘的稱呼，但已經不具有褒貶之意了。一般來說，中國、朝鮮、日本等地的佛教，是大乘佛教；斯里蘭卡、緬甸、泰國等東南亞地區的佛教，則是上座部分別說部的佛教，以巴利語三藏為正依。他們不承認大乘佛教，而自稱上座部。如果以地理來區分佛教，則可用「北傳佛教」與「南傳佛教」來代替大乘與小乘的稱呼。
