بدأت النواة الأولى لمجمع اللغة العربية كندوة علمية كانت تقام فى دار البكري بالخرنفش وكان يحضرها عيون المفكرين فى القرن التاسع عشر مثل الإمام محمد عبده، والشنقيطى وطنطاوي جوهري. وفى عام 1897 قام أول مجمع علمي لغوى يرأسه الشيخ توفيق بكرى الصديقي أبرز رجالات عصره لكن ما لبث نشاط هذا المجمع أن توقف بعد سبع جلسات فقط.
ولم يكن هذا المجمع هو الأول من نوعه فى العالم. فلو رجعنا إلى التاريخ، فسوف نجد أن مجمع أفلاطون العلمي قد أنشئ فى عصر الفلسفة الذهبي الذى أقيم فى أيكه من ضواحي أثينا. وسمى بالأكاديمية (430- 347 قبل الميلاد). وكان أفلاطون يحاور فيها، أو منها، تلاميذه فى الفلسفة باللغة وكافة العلوم. وقد عرفت الإسكندرية المزدهرة نوعا من المجامع أفرزته جامعتها الشهيرة ومكتبتها منذ أيام البطالمة (123 ق.. م)
إلا أن أكثر المجامع العلمية الحديثة قدما ورسوخا ولا تزال هى الأكاديمية الفرنسية التى أنشئت عام 1635 ولا تزال باقية إلى اليوم. وعلى غرارها يتم إنشاء الأكاديميات اللغوية المماثلة.
وفى سوريا، حولت سوريا عام 1919 شعبة الترجمة والتأليف إلى مجمع علمي عربي، وكان أول رئيس له هو محمد كرد على. أما المجمع المصري الذى بدأ فى نهاية القرن الـ 19 وظل معطلا سنوات طوال، فقد صدر أول مرسوم ملكي بإنشائه فى ديسمبر عام 1932 وفى هذا المرسوم تم تقنين أعماله. وفى البداية كان تابعا لوزارة المعارف. وكان مقره فى أول شارع قصر العيني. حيث أفتتح فى يناير 1934. وكان أول رئيس له محمد توفيق رفعت باشا.
وفى عام 1956 انتقل مقر المجمع إلى الجيزة. وفى عام 1983 استقل المجمع فى مبناه الحالي الذى يطل على النيل والواقع فى شارع المعهد السويسري بالزمالك.
وقد تولى رئاسة المجمع اللغوي بالقاهرة كل من السادة: محمد توفيق رفعت باشا من عام 1934 وحتى 1943. ثم تولاه أحمد لطفي السيد فى عام 1945 وظل رئيسا له حتى وفاته عام 1963. ثم تولى رئاسته الدكتور طه حسين فى عام 1963 ولمدة عشر سنوات حتى وافته المنية عام 1973.
ويتولى رئاسته الآن الدكتور إبراهيم بيومي مدكور منذ عام 1974.
ومجمع اللغة العربية بالقاهرة يعتبر رئيسا لكافة المجامع العربية الأخرى مثل المجمع السوري والمجمع العلمي العراقي الذى أنشئ فى بغداد عام 1947. ومجمع اللغة العربية الأردني الذى أنشئ عام 1976، وكل هذه المجامع ينظمها اتحاد واحد هو اتحاد المجامع اللغوية العربية ومقره القاهرة.
وتتكون لجان مجمع اللغة العربية من رئاسة المجمع وأمانته، ثم الأعضاء، والخبراء والمحررين والإداريين والعمال. أما عن اللجان العلمية والفنية. فيكاد يكون لكل علم معاصر لجنة فى مجمع اللغة العربية. ولجانه الآن تغطى الطب والصيدلة والتربية والأحياء والعلوم الرياضية والهندسية (بكافة فروعها)، والفيزياء (النووية والطبيعية) والزراعة والفلسفة وعلم النفس والعلوم الاجتماعية. ولجنة للأساليب. وأخرى للألفاظ، وثالثة للأصول اللغوية. والتاريخ والجغرافيا. والجيولوجيا وتيسير الكتابة. واللهجات وأحياء التراث العربي ولجنة المكتبة " ثم هناك إدارة كاملة للمعاجم اللغوية، ولجنة القانون، والاقتصاد والإحصاء، والآثار والعمارة والفنون. ولجنة ألفاظ الحضارة التى تهتم إدارتها بتقنين وتهذيب وصياغة ألفاظ الحياة العامة .
وتتم عضوية مجمع اللغة العربية بناء على تزكية من الأعضاء لترشيح شخص يتمتع بقدرات علمية فائقة- ويكون بارزا فى مجال تخصصه. وعند حصول المرشح على النصاب القانوني تستصدر إدارة المجمع قرارا جمهوريا باعتماد العضوية.