pk10牛牛是不是坑
timg.jpg

談量子通信前,先看看經典保密通信安全性幾何?

返樸 2019-04-15 作者:無邪

  用超級計算機來破解2048位經典加密需要花10億年。如果大家還不放心,我們可以用100萬位密鑰,其傳送只需幾秒。

  撰文 | 無邪(量子計算領域從業人員)

  如果說20世紀是第一次信息革命的時代,那么21世紀的今天,我們將面臨第二次信息革命。在過去的半個世紀里,隨著互聯網的興起和普及,信息傳播速度、傳播廣度及傳播量都得到了不可思議的發展。互聯網上每天產生巨量的數據,從中提取有用的信息則需要無比強大的算力。即便如谷歌這樣的科技巨頭,在面對這些數據時,也只能望而興嘆。更令人悲觀的是,算力的發展速度,似乎遠不及數據增長的速度。隨著未來5G網絡的推廣,物聯網的興起,信息交互的復雜度更是難以想象。量子計算在這種形勢下被寄予厚望,也就在情理之中了。相比破解RSA密碼的Shor算法,更為強大的計算能力,才是人們真正追求的圣杯。

  今天,我們日常通過手機、電腦、穿戴設備進行頻繁的溝通,我們對通信太習以為常以至于幾乎忘記了通信的本來面目。本文試圖從最原始的通信開始,穿過那些文字、圖片、視頻,看看通信在背后究竟是干什么的、怎么干的,也試圖引導有興趣的讀者思考一下未來的通信應該是什么樣子的。以現代通信之龐雜,作為一份極簡的科普短文是遠不夠介紹其全貌的,甚至連管窺也未必做得到。其中的粗疏謬誤之處,還望讀者不吝指教。

  什么是信息?

  信息,英文“Information”,在Wikipedia上的定義是“Informationis the resolution of uncertainty; it is that which answers the question of "what an entity is" and is thus that which specifies the nature of that entity, as well as the essentiality of its properties. Information is associated with data and knowledge, as data is meaningful information and represents the values attributed to parameters, and knowledge signifies understanding of an abstract or concrete concept.” 翻譯過來是:信息是對不確定性的解析。它回答的是“某個事物(實體)是什么”,也就是關于這個事物屬性的說明,以及其屬性的本質。信息與數據和知識關聯,數據是信息有意義的表達,代表參數賦予的值;而知識表示對抽象或具體概念的理解。再來看看百度百科:信息,指音訊、消息、通訊系統傳輸和處理的對象,泛指人類社會傳播的一切內容。一對比就發現二者描述的深度不一樣。

  想象這么一個場景,B君去了一趟沙漠,回來之后告訴A君說:我在沙漠里發現一種奇怪的花,白天看是枯草,晚上就開了。這句話傳遞了什么信息呢?顯然他描述了一種沙漠里才有的花,并描述了這種花的屬性(白天枯晚上開)。接下來有兩種情況:1. 如果A君沒去過沙漠,沒見過這種花,那么B君告訴A君這些信息之后,A君就得到了這些信息,假如他相信B君,那A君還可以基于這些信息建立一定的新知識;2. 如果A君去過沙漠,早就見過這些花,了解這種花,那B君告訴他這些還有用嗎?顯然沒有,對A來說這是已知的。因此,B的這句話對A來說包含的信息量就不大了。我們再從另一個角度來看,假如A君是研究這種花的,B君的描述對A的研究而言,就是一個“樣本”,或者說“數據”,A如果同時還收集到了更多目擊者的類似描述,那么A就可以更加確定這種花的存在及其屬性。換句話說,B君的描述,增加了關于花的“知識”的可信度。

  從上面這個虛擬的場景我們可以看出,信息是與“觀察者”密切相關的,同樣的“數據”,對不同的觀察者而言得到的信息量是不同的。類似的(有相關性的)“數據”可以增加信息的可信度。草原上的獵豹攻擊鹿群時,第一頭意識到獵豹即將攻擊的鹿迅速躍起,這個動作向其他鹿傳遞了“有危險”這個信息,當越來越多的鹿意識到這一點并開始奔跑,這個信息就變得很確定了:獵豹攻擊了,趕緊逃命!假如有一只猴子在此時好心告訴鹿群有危險,鹿群還會搭理它嗎?回答它的一定是那句大俗話:“這不廢話嗎!”由此可見,信息有時效性,在事件尚未發生之前預見到事件發生,才包含有用信息,對已經發生的事件做預測是沒有信息量的。說得更哲學一點,就回到了Wikipedia上的定義:信息是對不確定性的解析。

  什么是通信?

  有了信息的概念,那通信顧名思義就是傳遞信息了。B君已知了沙漠中的花而A君不知道,那么B告訴A這一信息,A就獲得了這一信息。這個過程,B將一定的信息傳遞給了A。通信在生命活動中是如此常見,以至于它幾乎就是生命的終極奧義。生命最核心的部分:基因,就是這樣通過生命形式一代代傳遞下去。動物、植物,他們通過發出聲音、分泌激素、做出姿勢、發光、變色……各種手段,窮盡所能,相互之間傳遞信息,代代蕃息。可以說,生命,就是一股巨大的信息流。

  人的出現,給了通信更多的含義。智人的進化讓他們可以用更為復雜的發音和手勢來交換更復雜的信息,這種復雜的通信系統——語言,是人類進化史上最偉大的發明之一。有了語言,智人之間可以進行更高級、更大規模的合作,從而徹底擊敗那些身體素質遠勝的尼安德特人。智人進一步進化,又發明了文字。文字不僅能表達更為抽象的信息,還能記錄在介質上,可以傳遞更遠的距離,可以傳承得更久遠。換句話說,文字使得信息作用的時空范圍大大增加了。今天的我們能夠了解到幾千年前的古人是如何生活的,不就是依靠那些古老的文字記載嗎?

  隨著社會活動的增加,文化的進步,人類又進一步發明了印刷術,大大增加了知識的傳播速度和范圍。直到今天,文字和印刷為基礎的書籍報刊,仍然是人們交換信息和知識的重要媒介。

  到了近代,人類發現了電和磁,并發現了其傳遞信息的能力,從此打開了一個全新的時代。從電報到電話,到互聯網,先民們幾代人交換的信息量,曾不如今日的一剎那。

  以上對人類的通信發展史做了一個極簡的回顧。下面我們來看看通信的幾個要素。第一,通信一定要有施和受兩方,這是顯而易見的。現代保密通信中我們往往用Alice和Bob來表示,與上文中的A君和B君是一個意思。第二,通信一定要有對應的“語言”。這里的語言是廣義的,不同的通信雙方會采用不同的語言,猴子會發出不同的叫聲,螞蟻會釋放信息素,熊貓會用尿尿……我們人,當然就是用字面意思的語言,即便這樣,不同民族的語言也是千差萬別的。文字則是語言的一種映射關系,有時候甚至是語言的進一步抽象。第三,通信一定要有媒介。比如說說話,用的媒介是聲音;手勢,用的媒介是光。如果沒有光,即便對方近在咫尺,任我如何比劃,對方也是無法獲得信息的。第四,通信還要有暢通的信道。比如我發出了聲音,由于空氣的存在,這個聲音可以傳到不遠處另一個人的耳朵,引起耳膜振動。我做出手勢,由于光的反射,遠處的其他人可以看見這個視覺圖像。最后一點,存儲,這個未必是通信所必要的,但是可以極大地提高信息傳播的時空有效性。

  什么是保密通信?

  當我們希望接受信息的對象在限定范圍內時,我們就需要考慮采用保密手段。保密通信的發展,其實與通信的發展是相終始的。事實上,任何通信都是具有保密性的。舉例來說,我在廣場上說了一句話,周圍的人或許能聽到,但遠在千里之外的曼哈頓大街上行走的行人一定是不知道的。我用中文說一句“我愛你”,完全不懂中文的爪哇人一定是一頭霧水。因此,所謂的保密通信,主要還是指如何屏蔽掉“有可能接收到這個信息,但我不希望對方接受到”的受信群體。在保密通信中我們往往用自帶邪惡屬性的“Eve”來表示。

  有了上面總結的通信幾大要素之后,如何做好保密通信就有方法可循了。只要切斷任一要素,就可以讓Eve無法獲取信息。第一要素,施信和受信對象,那就把Eve排除在受信方以外就得了。假如我們知道Eve現在在非洲度假,那我們就可以敞開門聊天了。第二要素——語言,我們找一種Eve完全聽不懂的語言聊天,他一定摸不著頭腦。第三,媒介,用一種Eve無法感知而Bob能夠感知的方法通信就可以了。很顯然我們完全不能明白兩只螞蟻觸須碰碰交換的是什么信息。第四,信道,如果Alice和Bob在一個隔絕聲音的房間里聊天,Eve又怎么能聽見呢?

  以上這些手段,在保密通信中均有應用。特別隨著軍事的發展,保密方法可謂無所不用其極。有一部很有名的電影《風語者》,講述的是二戰時期海軍軍官保護納瓦霍族密碼員的故事。為什么要用納瓦霍人做密碼員呢?就是因為他們的語言,外族人完全聽不懂。京劇《智取威虎山》中,土匪用黑話來做“接頭暗號”:一方說“天王蓋地虎”,對方答“寶塔鎮河妖”,于是雙方就知道是自己人了,這也是保密通信中常用的手段。

  上面的例子還體現了保密通信與常規通信一個新增的要素,那就是身份認證。由于保密通信是要排除不希望的通信對象Eve的,但在實際通訊中,Alice與Bob往往互相并不太了解。舉個例子,我軍打算凌晨三點向某高地發起總攻,指揮部派出一名偵察員,往甲陣地傳遞這個命令。甲陣地的指戰員見到這位偵察員之后,他能隨意相信這位偵察員嗎?或許他是認識總指揮部的上級首長的,但他很可能并不認識這個小兵。為此,作為精明的指戰員,一定是要對這個傳遞命令的小兵做一番身份確認的。古人發明了一種很精巧的身份確認方法:對虎符。一個虎符剖分兩半,一半在君,一半在將。君要使將,則命使者攜自己的一半前往將之所在,虎符一對,紋理相配,則受君命。可見身份認證的問題在很早就被意識到并想出一定的解決方案了。我們知道技術都是“應運而生”的——有了應用場景,才會催生出相應的技術方案。身份認證,是保密通訊中一個相伴的題目。這里補充說點題外話,一項技術的發展推廣,一定要首先思考其應用場景,也就是這項技術的生長土壤。如果有人發明一項在火星吹肥皂泡的技術,我相信當前的地球人都只會把它當做一個趣聞的,如果一位有錢的紳士一定要將這項技術做“成果轉化”,我相信這個趣聞一定會變成一個更有意思的趣聞。

  讓我們回到通信的話題上來。現代信息技術的發展,特別是互聯網的誕生和病毒式的擴散發展,為通信出了很多新的題目。前面提到的虎符技術,在現代戰爭中顯然不適用。敘利亞戰爭中,特朗普總統可以直接指揮前線作戰,甚至指揮一位士兵。而且,總統先生可能會頻繁地發出新的命令,如果用虎符,前線將士恐怕攜帶一屋子的虎符也不夠用。信息的靈活多變、信息量的大增、通信的網絡化、并行化、實時性、安全性,是當前通信發展面臨的場景。

  對信息進行加密之后傳遞,收信方按照約定方法,采用特定密鑰來解密,從而得到信息明文,這是保密通信最基本的方式。由于密鑰只有授信的少數人(Bob們)持有,那些Eves們,即便截獲了信件,苦于沒有密鑰,也不知解密方法,看到的將是一堆亂碼。即便這樣,在這個過程中,要做好的事情仍然是很多的,比如如何保管密鑰,如何傳遞密文,如何保證信道暢通等等。戰爭中的雙方情報機構,往往為保管/竊取密鑰,尋找/破譯加密/解密算法(破解密鑰),傳遞/截取密文……做無數的攻守來回,令人膽戰心驚,成為電影故事最常見的題材之一。在強大的利益驅使下(戰爭勝負、商業成敗),保密從來都不是一件容易的事。

  互聯網的出現更是為通信安全提出了新的挑戰。無數的終端設備接入其中,終端背后無數的人在交換信息,其復雜程度超越任何其他人造系統。利用得當,信息可以瞬息傳遍全球,利用失當,明星隱私也可以瞬間傳遍網絡。互聯網的安全,是伴隨其終始的恒久話題。道高一尺,魔高一丈。

  傳統的對稱加密系統,盡管安全性較高,但完全不能適應互聯網的發展。所謂對稱加密系統,是指一方采用特定算法、特定密鑰,對信息進行加密;對方采用相同算法、相同密鑰,對信息進行解密。雙方一旦握手協商好算法,并各自持有一份密鑰,就可以放心通信了。不過由于通信內容往往包含重復信息,加上密文隨機性不足,一份密碼多次使用后,即便Eve不知道加密算法,也可以通過密文不同部分之間的相關性來推測出原文。比如早期用得較多的字典替換法,隨著截獲密文的累積,破譯者就可以從那些經常重復出現的詞語(信件往來中的“閣下”、“致禮”等詞匯)中找到對應關系。即便是被奉為傳奇的“Enigma”機,在大量應用,大量密文被截獲,乃至Enigma機被復制之后,終于被數學家從密碼頭上的六個加密字母中找到了破解契機。

  對稱加密有一個基本條件,就是通信雙方需要至少一次“接觸”,也就是握手環節。在這個環節中,雙方建立互信,約定算法,交換密鑰。到了互聯網時代,這樣的加密方式顯然不適用。為什么呢?互聯網的特點是網狀結構,有無數的終端,而且這些終端時而接入,時而斷開,不斷有新的節點加入,舊的節點撤銷。總之一句話:復雜,多變。在這樣的體系中,要想建立點對點的通訊是臃腫笨拙的,而且成本高昂。一個終端與另一個終端可能相隔萬里,通信雙方可能老死不會相見。那他們之間如何建立可靠通信呢?在這種應用場景下,一種新的、絕妙的通信方式——公鑰系統,或者說非對稱加密系統提供了解決方案。

  顧名思義,非對稱加密系統中加密方和解密方是不對稱的,無論是算法還是密鑰。Bob想從Alice那里收取信息,他首先用公鑰算法生產一對密鑰——公鑰和私鑰,并通過網絡向外發出公鑰,自己仔細保管好私鑰,而算法則是公開的,任何具備相關知識的人,就可以獲取算法和公鑰,當然,這其中一定包含Alice和Eve。Alice拿到公鑰之后,就可以與Bob通信了:她用公鑰加密信息,然后發布到網絡上,Bob(當然也包括Eve)接收到信息之后,用私鑰輕易地解密并獲取了明文信息。而Eve呢?雖然他可以輕易地獲取密文,他也可以輕易地獲取密鑰——公鑰,但很可惜,用公鑰加密的信息,用公鑰不能解開。反過來,用私鑰加密的信息,也只能用公鑰才能解開。這一特點,正好完美解決了身份認證的環節,也就是實現所謂數字簽名。

  

  前面已經講到過身份認證的重要性,其作用不下于加密本身。試想,如果Alice連通信的對方是Bob還是Eve都分不清,怎么能保證通信的安全性?要知道偽裝是截獲情報最重要的手段之一。除此之外,要想保證通信的安全性,還要考慮信息是否被篡改。假如我送的信半路上被人悄悄加幾句話,很容易就被誤導了。為了防止這種事情發生,在通信中常用的辦法就是簽名,蓋戳,并在信封上加漆印,這樣的情節在很多影視劇中相信大家都見過。即便這樣,偽造筆跡,偽造簽名的事情也難免。小李子和“阿甘“演過一部貓捉老鼠的電影《逍遙法外》,小李子就是靠偽造各種支票騙過了大批銀行職員(多為女性),被抓后成為FBI的假支票鑒定專家。

  互聯網上身份認證怎么做呢?最常用的辦法是數字簽名,這是公鑰密碼系統中非常重要的一環。數字簽名不僅能進行身份認證,還可以對所傳遞的信息做校驗,保證信息的完整性和不可篡改性。具體的做法是,發信方用一個哈希函數(比如MD5)對信息內容生成一個摘要,然后用私鑰加密這個摘要,與加密后的信息(用對方公鑰)一同傳給對方。對方用公鑰解開摘要,用自己的私鑰解開信息,并用相同的哈希函數生成信息摘要,然后與發送過來的摘要做對比,相同則說明信息沒被篡改過且是完整的。由于公鑰私鑰一定是成對的,因此上述過程就完成了身份驗證、信息真實性和完整性驗證。

  

  絕大多數用戶在使用互聯網的時候,并沒有意識到公鑰系統在保護著我們,但實際上它無處不在。不知道大家注意到沒有,現在的網頁已經很少有http開頭的(國內很多網站除外),都是https開頭了,google瀏覽器甚至已經不再支持http網頁瀏覽。這里多了個s,就表明網站內容經過加密了,這樣你就可以放心在網站上輸入個人信息、用戶名密碼而不用擔心被人盜取。其中用到的加密技術,正是公鑰密碼。盡管HTTPS并非絕對安全,掌握根證書的機構、掌握加密算法的組織同樣可以進行中間人形式的攻擊,但HTTPS仍是現行架構下最安全的解決方案。我們用支付寶、微信、銀行網銀做的每筆交易,背后都是公鑰系統在保駕護航。

  

  二十世紀末誕生了兩個偉大的思想:利用量子力學原理來進行保密通信——量子通信,和利用量子力學原理來進行計算。這兩類基于量子力學的技術,可以統歸于量子信息技術,代表著未來信息處理技術的發展方向。盡管都是用到量子力學原理,不過二者是有很大差別的,并非相近相類技術。我經常被人問及量子通信的專業話題,弄得我很尷尬——其實我對量子通信了解并不深。我相信同樣地有很多量子通信專家會被問及量子計算的專業話題。因為是接著公鑰密碼系統的話題,所以這里先講講量子計算。

  上世紀90年代一個數學家彼得·肖,發現一種基于量子邏輯的算法——Shor算法,這種算法最吸引人的地方是,它能夠將質因數分解問題的復雜度,從指數難度降低到近多項式難度。熟悉計算機科學的人一定知道,一個多項式復雜度的問題,對目前的計算機而言,就是“可解”的。換句話說,問題的復雜度增加,并不會帶來所需計算資源的災難性增加。這種問題稱之為P問題。其反面就是NP問題:不確定多項式問題。這里的不確定,意味著在當前的數學水平下無法得到多項式復雜度的算法。在數學界,有很多人為證明“NP=P?”這個問題奮戰爭論很多年,到目前沒有結論,甚至少有線索。普遍的觀點是接受NP≠P的。

  質因數分解問題在經典計算中是一個NP問題,到目前為止沒有低于指數難度的算法。互聯網上最常用的公鑰密碼——RSA密碼,就是基于質因數難分解而易驗證的原理。RSA密碼自問世以來,有記錄的破解有三次,分別是1999年的RSA-155、2002年的RSA-158及2009年的RSA-768,其中RSA-768用了768位(二進制位)密碼。目前流行的RSA-1024從未有被破解過,考慮到768已經比較接近1024,且計算機發展速度飛快,已有人建議采用RSA-2048。有人評估過,在經典計算機上破解RSA-2048需要10億年(以超算能力進行估計,這個數字會隨著技術進步而不斷縮小。不過這并不重要,即便將摩爾定律無限外延,10億年要縮短到年也需要60年,這還是在假定RSA密碼在這段時間里原地踏步的情況)。

  小資料

  RSA-2048密碼破解所需時間之估算

  為了破解一個以RSA密碼為基礎的證書(比如由DigiCert所提供的),我們必須對組成RSA模數的一個超級大數做質數分解。當所用電腦達到了證書相關的RAS模數分解的平均時間 [換句話說,它(分解)可能發生在第1年,也可能發生在第6萬億年,平均時間可能是嘗試所有可能性所需總時間的一半] ,我們就認為這個證書被“破解”了。2009年12月,Lenstra等人聲稱破解了一個768比特的RSA模數(見:http://eprint.iacr.org/2010/006.pdf)——這是一個232位(十進制)的數,是當時(很可能到現在也是)分解的最大的一般整數。

  分解一個大數最有效的方法——也是上面的破解紀錄所用的方法——是通過數字場篩選,這個方法比暴力破解(試遍所有組合)要快得多,所以暴力破解將耗費與之相比更多的時間。Lenstra小組估算了一下,破解一個1024位(二進制,后面如無說明均指二進制數)的RSA模數要比他們破解768位數困難1000倍。也就是說,在相同的硬件設備和條件下,破解耗費的時間要長1000倍。他們同時也估計了一下,如果將處理能力歸一化到當時的一臺標準臺式電腦配置(含一個2.2 GHz AMD羿龍處理器,具有2G內存),那么他們實現的紀錄需時為1500年。所以換句話說,按照Lenstra等人的估計,破解1024位RSA密碼在普通臺式機上需要150萬年。目前的超級計算機的計算能力是普通臺式機的百萬倍以上。即使用超級計算機解密也需花一年左右時間。

  DigiCert基于的標準是采用2048位密碼的SSL安全證書。這比Lenstra等人所嘗試破解過的任何密碼都要強大得多。事實上,它需要破解一個617位(十進制)的數。RSA實驗室聲稱(見:http://www.rsa.com/rsalabs/node.asp?id=2004),2048位密碼的破解要比1024位密碼困難2的32次方倍(232= 4,294,967,296),或者差不多說43億倍,因此破解一個DigiCert 2048位SSL證書將需要比1024位長43億倍的時間(采用相同的普通臺式處理器)。可以估算,利用普通臺式處理器的計算能力,破解一個DigiCert 2048位SSL證書需要4,294,967,296 x 1,500,000年,或者說,略大于6400萬億年(以2009年破解RSA-768時的標準臺式機算力估計)。

  我們估計宇宙的年齡是13,751,783,021年,或者說137.5億年。那就是說,如果你打算用一臺常規電腦破解DigiCert 2048位的SSL證書,并且你從時間的起點就開始算,經過了137億年,你終于算到了今天,而你仍需要重復這個時間468,481次,一直到未來的未來的未來,你才總算達到破解這個證書的平均時間。事實上到那時宇宙本身估計早已寂滅了。當然如果用超級計算機來破解2048位密鑰,我們只需要花64億年,不需要等宇宙寂滅。如果大家還不放心,我們可以用100萬位密鑰,其傳送只需要幾秒時間(點對點只需一毫秒)。

  本資料翻譯自https://www.digicert.com/TimeTravel/math.htm

  假如有了量子計算機呢?這個時間可以降低到幾分鐘。于是有人開始恐慌了:一旦量子計算機問世,公鑰系統立即就崩潰了!這是一件多可怕的事情!我銀行里的錢怎么辦?我的隱私怎么辦?這種恐慌,到了21世紀的今天被放大了很多,實際上從未發生。那量子計算機在短期的未來會出現嗎?我的回答是,技術是具有不確定性的,這也是其魅力所在。但一臺能準確運行Shor算法的量子計算機,我可以很大膽地估計:未來十至二十年不會出現。因為Shor算法對量子比特錯誤率要求太嚴格,技術上只能做量子糾錯后形成邏輯量子比特才可能滿足要求。而邏輯量子比特需要巨大的開銷,以表面編碼量子糾錯算法為例,實現壽命為年計的邏輯量子比特需要數千個物理量子比特。假如我們用數千個邏輯比特來實現Shor算法,需要的物理比特數上百萬,這在工程技術上無疑是無比巨大的挑戰!要知道半導體晶體管,一種比量子比特魯棒得多的器件,集成度達到百萬量級都花了二十年時間!

  總有人問假如上述的恐慌真的成了現實怎么辦?畢竟發生的概率不為零。到時候現找替代的保密通訊方案肯定不現實,我們需要從現在開始研究“后量子計算機時代密碼學”。量子通信由于其不可復制、可實時察覺監聽者等特性,成為有力的競爭者,特別在國內擁護者很多。量子通信作為一種由量子力學原理保證的密鑰分發(協商)技術,其科學性、前沿性是毫無疑問的。但不得不說的是,保密通信是一項復雜的系統性技術,其中有很多環節需要注意,認為密鑰安全了通信就安全了是很膚淺的。量子通信還有很多技術有待解決和完善,比如中繼技術。此外,量子密鑰分發,在保持其聲稱的絕對安全條件下,效率是極低的。在經典公鑰密碼仍然工作完美,且在可預見未來中無破解危險情況下,量子通信很難找到合適的應用場景。就像我前面說的,任何一項技術的發展,首先要想的是應用場景。這種應用場景一定是實實在在,與市場、與大眾利益和趨勢一致的,而不可是虛構的。

  總之,無論經典密碼、量子計算、量子通信,在未來信息革命中都將面臨巨大的挑戰。你,準備好了嗎?

  本文作者就職于國內某研究機構,專業從事量子計算的研究工作。

  本文為嚴肅科普媒體《返樸》(微信號:fanpu2019)首發,《返樸》由國際一流科學家和科普專家擔任總編及編委。任何媒體轉載時須保留《返樸》名稱及微信號和作者信息。未經許可,嚴禁對包括標題在內的任何改動。轉載、授權、合作請聯系[email protected]

  

責任編輯:王超

科普中國APP 科普中國微信 科普中國微博
返樸
是中國科協為深入推進科普信息化建設而塑造的全新品牌,旨在以科普內容建設為重點,充分依托現有的傳播渠道和平臺,使科普信息化建設與傳統科普深度融合,以公眾關注度作為項目精準評估的標準,提升國家科普公共服務水平。

猜你喜歡

pk10牛牛是不是坑 看牌抢庄牛牛20元进场 微信捕鱼0.01-20元炮 彩票36选7自动选号 盈圣娱乐 人工pk10精准计划网址 手机app制作软件 蓬莱宝龙娱乐广场 欢乐炸金花官方下载 广东11选五软件手机版 捕鱼达人hd下载