明治憲法下の帝国議会は、立法権を保持する天皇の「協賛」機関であった。帝国議会は、皇族、華族および勅任議員により組織される「貴族院」と、公選議員により組織される「衆議院」から成る二院制であった。また、衆議院の予算先議権を除き、両院の権限は対等であった。
ポツダム宣言の受諾を経て、天皇主権から国民主権へと転換がなされるとともに、議会制度の民主化が行われることとなった。連合国最高司令官政治顧問のジョージ・アチソンによる近衛文麿に対する憲法改正の基礎的な項目の説明には、衆議院の権限の拡大、貴族院の拒否権の撤廃、議会責任原理の確立、貴族院の民主化がその内容に含まれていた。また、GHQ民政局法規課長のラウエルによる「日本の憲法についての準備的研究と提案のレポート」
は、立法部は一院でも二院でもよいが、全議員が公選されなければならないことを示した。
さらに、米国政府からマッカーサーに「情報」として伝えられた「日本の統治体制の改革（SWNCC228）」において、立法部は、全員が公選議員によって組織されることが要請された。
一方、日本政府の下に設置された憲法問題調査委員会（松本委員会）では、二院制を維持すべきであるが、従来の貴族院の権限に制限を加え、その構成を民主的なものに改めるべきだ、との意見が支配的であった（第3回総会議事録）。また、その名称についても、「上院」「第二院」「元老院」「特議院」「審議院」「参議院」など様々な案が出されたが、「参議院アタリガ無難」だということになった（第7回調査会議事録）。松本委員長が作成した「憲法改正私案」と「甲案」には、これらの意見が反映された。すなわち、(1)帝国議会は「参議院衆議院ノ両院」からなること、(2)法律や予算の議決について、両院の間で意思の不一致が生じた場合、最終的に、衆議院の議決が優位すること、(3)参議院の構成は、「参議院法ノ定ムル所ニ依リ選挙又ハ勅任セラレタル議員ヲ以テ組織ス」ることとされた。
1946（昭和21）年2月5日のGHQ民政局会合では、日本の政治の発達状況をみても、簡明性という点からも、一院制を提案するのがよいとの結論に達した。また、このとき民政局のケーディスから、一院制か二院制かは、日本政府との交渉にあたって、GHQ案の「もっと重要な点」を維持するための譲歩材料になり得るとの意見が述べられた。2月13日、「GHQ草案」が、日本側に手交され、その中で国会は、「国家ノ権力ノ最高ノ機関ニシテ国家ノ唯一ノ法律制定機関」とされ、300人以上500人以下の公選議員から成る単一の院をもって構成するものとされた。これは、(1)貴族制度が廃止されること（マッカーサーノート）、(2)日本は連邦国家でないこと、(3)第一院と第二院の間の争いが生じるおそれがあることなどの理由によるものであった。これに対して松本は、(1)多くの国が議会の運営に安定性をもたらすため、二院制を採用していること、(2)一院制の場合には政権交代により、政府の政策が一方の極から他方の極に移るおそれがあること、それゆえ、(3)第二院があれば、政府の政策に安定性と継続性とがもたらされることなど、二院制の長所について説明した。そこで、ホイットニー民政局長は、GHQ案の基本原則を損なわない限り、二院制を検討してよいとした（「GHQ案手交時のGHQ側記録」）。
3月4日からのGHQにおける徹夜の交渉を経た上で確定された「憲法改正草案要綱」では、両議院は、国民により選挙され全国民を代表する議員をもって組織するものとされた。この草案要綱発表後、参議院の緊急集会の規定を加えるなどの修正を行い、口語の条文としたものが「憲法改正草案」である。
「帝国憲法改正案」を審議した第90回帝国議会において、金森徳次郎国務大臣は、「新タナル見地」から二院制が妥当であると述べ、参議院設置の理念は、衆議院に対する抑制的機能を前提として、知識経験のある慎重熟練の士を求めることにあるとした。また、参議院の構成についても、職能代表制を中心に熱心な論議が行われたが、しかし、具体的な構成の方式を打ち出すには至らなかった。ただ、衆議院の附帯決議の中において、参議院の構成については衆議院と重複する機関とならないよう留意し、社会の各部門・各職域の知識経験者が議員となり得るよう考慮すべきであるとの方針が示された。
このようにして二院制が採用されたわけであるが、衆議院と同じく「全国民を代表」する公選議員から組織される参議院が、日本国憲法下における「第二院」として、どのような役割を担い、いかに特色を発揮すべきか、また、そのために、この議院にふさわしい人材をいかなる方法で集めることができるのかが、この半世紀余の間、問われ続けている。
