从秦朝开始，越南在近千年时间一直是我国的郡县，直到五代十国时期，越南成为半独立的藩属国。其中有一块600平方公里的战略要地，我国花了800年时间才最终收回。
秦始皇统一天下后，三次出兵讨伐百越，成功夺取岭南地区（包括越南北部），他将此地划分为三个行政区，分别为桂林郡、南海郡、象郡。秦始皇把军事占领与经济建设、民族融合结合起来，加速了当地的发展。
公元前203年，南海尉赵佗（祖籍河北省）趁着秦末天下大乱反叛朝廷，建立南越国，定都广州，自称南越武王。他依靠地理优势与中央王朝长期对峙。公元前111年，汉武帝刘彻出兵消灭了这个自立乾坤的小国。
为了加强中央集中管理，汉朝在南越国的旧地上先后设置交趾、九真、日南三郡，旨在分而治之。越南北部与广西南部一部分领土属于交趾郡的管辖范围。直到三国时，交趾都属于我国领土（隶属东吴）。
唐朝的时候，岭南地区属于岭南道管辖（道如同省级行政单位），辖区包括今天的广东、广西、越南、海南、香港、澳门一带。
到了五代十国，一个叫吴权的交趾节度使叛乱，占据越南自立为王，并在北宋初年趁乱独立建国，一跃成为宋朝的藩属国。自此，越南一直是中原王朝的藩属国。虽然明成祖朱棣曾经把越南改为郡县，可是只有30多年时间，最后明朝还是让它成为藩属国。
自宋代以来，交趾人利用各种卑鄙手段向北部扩充实际控制的领土。大宋王朝为了息事宁人，草率地将广源州部分地区划给了交趾。京族三岛就是这样被交趾侵占的，京族三岛分别为巫头、万尾、山心三个小岛，名义上属于中国，实际管理权却在越南手中。元朝虽然出征想要拿下越南，但是因无法适应岭南炎热的气候而作罢。
清朝末年，中法发生武装冲突。由于老将冯子材取得“镇南关大捷”，使法国人通过安南蚕食中国领土的阴谋暂时破产。1885年6月，中法签订《中法会订越南条约》，法国人把安南实控的600平方公里飞地交还中国，这块土地就是京族三岛。它在分离800多年后，重新回归祖国的怀抱。
1999年12月30日，《中华人民共和国和越南社会主义共和国陆地边界条约》再次确认了我国对京族三岛的主权。
