这颗巨型钻石早年的历史贯穿哈布斯堡王朝的皇室血脉，充满着刺激、阴谋与浪漫。哈布斯堡皇室的权势，在腓特烈三世之子马西米连一世(Maximilian I)统治期间(1493～1519年)，通过皇室联姻，得以进一步增强。马西米连本人，于1477年8月18日迎娶勃艮地公爵独女玛利(Mary of Burgundy)。这段姻缘，将属于勃艮第公国的、自法国南部至荷兰的领地通通并入哈布斯堡皇室领地。在订婚典礼上，约瑟夫大公爵这枚钻戒，标志着哈布斯堡王朝巨大权力的盟姻最终结成。通常这枚钻石被认为是历史上的第一枚订婚钻戒，在钻石的历史上具有非同凡响的意义。
约瑟夫大公爵钻石以它最后一位为人熟知的拥有者——大公爵约瑟夫-奥古斯特(Archduke Joseph August 1872～ 1962)的名字命名。约瑟夫-奥古斯特是欧洲最强大的皇室之一，奥匈帝国哈布斯堡王朝的王子。1893年与公主奥古斯汀(1875～1964)结婚。奥古斯汀公主是巴伐利亚王子利奥波德和奥地利女大公爵吉塞拉的女儿，也是我们所熟悉的“茜茜公主”的外孙女。
关于这颗巨型的戈尔康达钻石如何成为约瑟夫大公爵的财产，世上有很多猜测。1916年弗朗茨·约瑟夫皇帝死后，大公爵作为一位受欢迎并鼓舞人心的领导者，成为奥匈帝国前线部队的指挥官，在第一次世界大战期间指挥军队对抗俄国和罗马军队。他成为奥匈帝国军队的最后一名元帅，一直试图缓和急剧激烈的民族主义冲突。1918年10月，奥地利国王查尔斯一世任命大公爵为奥匈帝国的摄政王，试图组建一个全国性政府。但由于10月31日爆发的阿斯特革命(Aster Revolution)而以失败告终。1919年，约瑟夫曾短期担任奥匈帝国的摄政王，却因联盟政府拒绝接受哈布斯堡家族成为国家首领而被迫辞职。约瑟夫大公爵亲眼见证了强大的奥匈帝国王朝的戏剧性灭亡，并在这个过程中扮演了重要的角色。
1944年，大公爵离开匈牙利前往美国，但不久就返回德国与他的妹妹——公主玛格丽特(Margit von Thurn und Taxis)一起生活。1962年，他在德国雷根斯堡附近狩猎途中去世。