ティターンズが次期主力モビルスーツ候補として、かつての名機RX-78-2 ガンダムをベースに、当時のティターンズ主力MSだったジム・クゥエル等に使用されていた最新技術を投入し開発した機体である。主にスペースコロニー内での戦闘を想定し、グリプス開発基地にて8番目に開発され、その名の通り正統なガンダムの後継機である。一年戦争で活躍したガンダムを復活させることは、地球連邦軍内や世間に対してティターンズの行為を正当化するための好材料でもあった。そのためジオン系の技術者を排除して、純粋な連邦の技術のみで完成に漕ぎ着けた。
当時まだ地球連邦軍やティターンズにガンダリウムγの製造技術がなかったため、装甲やフレームの材質がチタン合金セラミック複合材であるなど旧式な部分も少なくないものの、初めて本格的にムーバブルフレームを採用したモビルスーツであり、総じて高性能な機体となっている。ただし、装甲にガンダリウム系マテリアルが使用されていないことから厳密な意味での第2世代MSではなく、第1世代から第2世代への過渡期にある機体といえる（1.5世代機と言われる場合もある）。また、コア・ブロック・システムを廃し、全天周囲モニター・リニアシートを採用している。
主武装としてエネルギーパックを採用したビームライフルを、近接戦兵装としてバックパックにビームサーベルを2基装備している。また、ガンダム試作1号機で試験採用された伸縮可能なシールドを腕部のマウントラッチを介して装着することができる。このシールドの裏面には予備のエネルギーパックをマウントできる他、ランチャーを装備することもできる。追加武装としては散弾も発射可能なハイパーバズーカがあり、腰部のマウントラッチにマウントすることができる。また、ガンダムでは頭部に内装されていたバルカン砲を、装弾数向上のためバルカンポッドという形でオプション化している。銃口は左側に2門有し、右側はマガジンおよびバランサーとして機能する。
全部で3機が開発されたが、グリーンノア1内での運用試験中に3号機がカミーユ・ビダンにより奪取され、エゥーゴの手に渡る。その後もエマ・シーンの離反により、結局3機全てがエゥーゴの手に渡る結果となった（ちなみに、ティターンズは残されたデータをもとに開発を進め、バーザムを開発している）。
エゥーゴに渡った後、1機は月のアナハイム・エレクトロニクス社にて機体構造の研究が行われ、1機は保守部品確保用として解体、残る1機（3号機）はアーガマ艦内にてティターンズカラー（濃紺）から白に再塗装され、実戦投入された。一年戦争におけるガンダムを連想させる白い機体となったガンダムMk-II は、皮肉にも開発したティターンズに対する戦闘によって高い戦果を挙げた。ガンダムの正当な後継機ガンダムMk-IIを手に入れたということは、エゥーゴにとって勝利の象徴としても大きな意味を持った。
エゥーゴではアーガマやラーディッシュで運用され、初期パイロットのカミーユ・ビダンの類まれな操縦能力等により、グリプス戦役中盤頃まで最新機と互角以上に渡り合うなど高い性能を誇っていた。また、数回に渡る改修を受け、高性能化が進むティターンズのMSに対抗していった。後に旧式な装甲の補強及び火力・機動力の強化策として、エゥーゴはGディフェンサーを開発し、ガンダムMk-IIはGディフェンサーと一緒に運用されることで、グリプス戦役終盤までエゥーゴの主力機として活躍した。
後に開発された百式やΖガンダムには、ガンダムMk-IIの技術が投入されている。また、Ζガンダムの飛行形態であるウェイブライダーの試作実験用としてエゥーゴはオプション兵装であるフライングアーマーを開発、これを試用したガンダムMk-IIは無事大気圏再突入を果たし、Ζガンダム開発への貴重なデータを持ち帰った。
ガンダムMk-IIは、第一次ネオ・ジオン抗争時にもアーガマやネェル・アーガマに配備された。ネオ・ジオンの最新機に比べ旧型化してしまってはいたものの、ガンダムMk-II用の新支援機メガライダーも導入され、量産機が相手であれば互角以上の戦いを見せた。ガンダム・チームの一翼を担い、第一次ネオ・ジオン抗争の最終決戦まで戦い抜いた事実は、本機の汎用性と高性能を証明していると言えよう。なお、第一次ネオ・ジオン抗争におけるガンダムMk-IIの装甲はガンダリウム合金に換装されているという説が存在するが、詳細は不明である。
