雙精度運算是什麼,單精度和雙精度是什麼意思 是小數點後多少位嗎?

時間 2022-05-24 10:45:06

1樓:大哥大兄弟

雙精度浮點運算的4個要點

nvidia公司將會根據cuda和g80架構,抓住在high-performance處理(hpc)上成功的機會。對於nvidia公司來說,對雙精度浮點運算提供支援將會是不可或缺的要素。因為基於hpc的應用軟體必須要支援雙精度運算。

因此可以說適合gpu處理的tesla系列產品,雙精度計算功能將會是關鍵。nvidia在強調必要性時表示「到現在為止,雙精度的難點在於還無法移植更多的應用軟體。

不過問題是現在的圖形運算,根本不需要高於單精度(32-bit)以上的浮點運算。因此到目前為止還沒有實現gpu單精度演算單元以外的支援,比如gpu的雙精度運算。這裡有幾點疑問:

(1)基於ieee 754。這個是是否成為通用應用軟體的重要分歧點。

(2)雙精度的實現方式和效能。

(3)單精度和雙精度的效能比率。

(4)實現成本

●ieee 754特性介紹

(1)至於ieee 754,根據nvidia公司的介紹列出了下面有關雙精度運算和單精度的運算名單。這裡nvidia強調了其大體上基於的是ieee 754。特別是intel sse和cell broadband engine(cell b.

e.)與其他的simd浮點運算架構相比,在ieee 754上的支援上差不多處於相同的水準。

nvidia公司是傾向於ieee 754,但是為了保證gpu的雙精度運算效能則沒有基於ieee 754標準。對此nvidia公司表示「我們將會盡量提供最廣的支援,不過『flag』是例外。至於原因,是因為flag是浮點運算處理器,是與整數運算分離的cpu產品時代的遺物。

浮點處理器需要cpu在最後處理才會進行flag處理。因此nvidia公司的sumit gupta先生則認為整數運算和浮點運算單片設計的架構已經失去了作用。

gt200是在最高速度下執行,但是不支援flag,而另一方面cpu也在低速處理「denormal handling」。至於nvidia公司雙精度運算單元是否實用,則需要通過應用軟體來進行判斷。不過目前開發商們表示應用基本沒有問題

2樓:月醉清風的家

在計算機裡實數中的浮點數是以科學計數法儲存,所以在儲存和讀取的時候需要考慮精度的問題,但是,由於資料的使用需要,也會有不同精度的需要,例如儲存身高資訊和儲存衛星的飛行資訊要求的精度必要是不一樣的,再者,考慮儲存資訊的效率問題,同樣大小的儲存介質儲存高精度的資訊必然比低精度的資訊要多,為了平衡,所有就有單精度float和雙精度double,同樣是61.1126537這個數,經過計算機處理後用float儲存和double儲存是不一樣的。

3樓:15杜鵑

直白說,畫面更加精銳。

4樓:牽著你的手

雙精度,單精度計算方法:

(1) 浮點型別的數用4個位元組32位二進位制表示。這樣表示的數大約有7位十進位制有效數字,數值的表示範圍約為±(3.4×10^38…3.4×10^38);

(2) 雙精度型別的數用8個位元組64位二進位制表示,雙精度數大約有16位十進位制有效數字,數值的表示範圍約為±(1.7×10^308…1.7×10^308);

(3) 長雙精度型別的數用10個位元組80位二進位制表示,大約有19位十進位制有效數字,其數值的表示範圍約為±(1.2×10^4932—1.2×10^4932)

單精度和雙精度是什麼意思?是小數點後多少位嗎?

5樓:dangerous期待

是c語言中的資料儲存型別,是型別的名字。計算機中的資料是二進位制,當數字有效數字位數過多的時候儲存範圍之外的輸就會被四捨五入,表現出來的就是單精度有七位有效數字,雙精度有十五位有效數字。

單精度簡介:

單精度數,是指計算機表達實數近似值的一種方式。vb中,single(單精度浮點型)變數儲存為ieee32位(4個位元組)浮點數值的形式,它的範圍在負數的時候是從-3.402823e38到-1.

401298e-45,而在正數的時候是從1.401298e-45到3.402823e38。

如果涉及浮點數,值可能不往返。值的往返是指,某個運算將原始浮點數轉換為另一種格式,而反向運算又將轉換後的格式轉換回浮點數,且最終浮點數與原始浮點數相等。由於乙個或多個最低有效位可能在轉換中丟失或更改,往返可能會失敗。

雙精度簡介:

雙精度浮點數(double)是計算機使用的一種資料型別,使用64位(8位元組)來儲存乙個浮點數。它可以表示十進位制的15或16位有效數字,其可以表示的數字的絕對值範圍大約是:4.

9x10~1.7x10。ieee754為其定製標準。

單精度數與雙精度數區別,單精度和雙精度有什麼不同?

染謙塵 float至少能表示6位有效數字,用32位儲存,8位用於表示指數及符號,24位表示非指數部分 尾數或有效數字 及符號 double和float具有相同的最小取值要求,但必須至少可以表示10位有效數字,一般double使用64位. 養以雲 單精度 float 實數在記憶體中佔32bit 有效數...

什麼是儀器的“精度”,儀器儀表中精度等級是什麼?

中國農業出版社 由於種種原因,任何一個儀表在測量時都有誤差。儀表指示值總是被測量實際值的近似值,而儀表準確度就是說明儀表指示值與被測量實際值之間的近似程度。準確度是用誤差來表示的。所謂誤差,是說明儀表指示值與被測量實際值之間差異程度的。因此,儀表準確度越高,其近似程度越高,誤差越小。在工業測量中,為...

請問齒輪的精度為6 5 5是什麼意思?精度是6級還是5級

6 5 5是表示齒輪的三種方式上的精度,分別是傳遞運動的準確性 傳動準確性 載荷分布均勻性三種指標的綜合。齒輪精度等級 6 7 7gm100954 88 中的 6 是指什麼?6 代表第i公差組的精度等級為6級 7 代表第ii公差組的精度等級為7級 7 代表第iii公差組的精度等級為7級g 齒厚上偏差...