Pierwotny pałac w Kargowej został zbudowany w końcu XVII wieku z inicjatywy Krzysztofa Unruha, ówczesnego właściciela miejscowości. Z przekazów ikonograficznych wynika, że była to dwukondygnacyjna budowla, wzniesiona na planie prostokąta, z ogrodem oraz dziedzińcem z dwoma budynkami.
Na początku 1731 roku Karol Unrug, ówczesny właściciel Kargowej i jednocześnie szambelan królewski, przekazał swoją rezydencję królowi Augustowi II Mocnemu w dożywocie, z prawem jej przebudowy i rozbudowy. Król był zainteresowany stworzeniem w niej bazy wojskowej. W związku z tym planował gruntowną rozbudowę miejscowości, w tym również założenia pałacowego. Rozbudowa założenia według projektu prawdopodobnie J.K. Knöffela trwała w latach 1731-33. Prace budowlane prowadzone były na wielką skalę, zatrudniono wielu wykonawców, w tym m.in. rzeźbiarza K. Kirchnera. Do 1733 roku rozbudowano starą siedzibę Unruhów oraz wzniesiono stumetrowej długości pałac królewski i cztery budynki koszarowe. Prace budowlane przerwała śmierć króla Augusta II oraz wybuch wojny sukcesyjnej o tron Polski. W 1735 roku w czasie działań wojennych nowo wybudowane założenie zostało zniszczone.
Splądrowany i spalony pałac Unruhów odbudowano, znacznie jednak upraszczając jego formę architektoniczną, bez dekoracji elewacji i wystroju wnętrz. Obecny, barokowy pałac w Kargowej założony został na rzucie litery „U”. Jest budowlą dwukondygnacyjną, podpiwniczoną, nakrytą dachami czterospadowymi. W elewacji frontowej znajduje się trójuskokowo wklęsły ryzalit w którym umieszczono wejście główne, poprzedzone jednobiegowymi schodami. Ryzalit został rozczłonkowany w przyziemiu półkolumnami i pilastrami i zwieńczony faliście łamanym szczytem. Analogicznie do niego w elewacji tylnej został umieszczony ryzalit, zwieńczony trójkątnym szczytem. Elewacje na narożach opięte pilastrami, zostały przeprute prostokątnymi oknami ujętymi opaskami. W piwnicy zachowały się relikty dawnego pałacu Unruhów (sklepienia kolebkowe). Z historycznego wyposażenia zachowały się: trzy barokowe kominki, sztukateria sufitów, żelazne drzwi w piwnicy.
Poza pałacem w skład założenia wchodzą: oficyna, budynki gospodarcze i spichlerz. Na południe od pałacu znajduje się park krajobrazowy. Rodzina Unruhów związana była z Kargową do 1837 roku, gdy miasto przeszło na własność państwa pruskiego. W okresie międzywojennym pałac należał do rodziny Richterów. W 1945 roku majątek przeszedł na własność Skarbu Państwa i był użytkowany przez PGR. W latach 60-tych XX wieku przeprowadzono remont obiektu. W początkach XXI wieku wymieniono pokrycie dachowe. Obecnie pałac stanowi własność prywatną i jest remontowany.
Kargowa jest położona 17 km na wschód od Sulechowa, przy drodze nr 32 do Wolsztyna. Pałac znajduje się w północno-wschodniej części miejscowości, tuż obok czynnej gorzelni. Trudnodostępna całość jest otoczona wysokim płotem.
Zdjęcia wykonano w maju 2016 roku.