DSP28335的有效數(shù)字問(wèn)題
DSP28335的有效數(shù)字問(wèn)題
在DSP28335中,我需要用到一個(gè)sqrt(2/3)的常數(shù).由于是常數(shù),所以我們常常將其用#define來(lái)實(shí)現(xiàn).現(xiàn)在的問(wèn)題是,我應(yīng)該對(duì)它精確到多少為為宜?
如果我給的位數(shù)太多,DSP是怎么處理的?是四舍五入還是直接把某一位以后的數(shù)字給忽略掉了?
在DSP28335中,我需要用到一個(gè)sqrt(2/3)的常數(shù).由于是常數(shù),所以我們常常將其用#define來(lái)實(shí)現(xiàn).現(xiàn)在的問(wèn)題是,我應(yīng)該對(duì)它精確到多少為為宜?
如果我給的位數(shù)太多,DSP是怎么處理的?是四舍五入還是直接把某一位以后的數(shù)字給忽略掉了?
物理人氣：272 ℃時(shí)間：2020-06-26 02:55:53
優(yōu)質(zhì)解答
那要看你設(shè)置的數(shù)據(jù)類(lèi)型了,單精度還是雙精度的如果是單精度，結(jié)果怎么樣？如果數(shù)據(jù)類(lèi)型是雙精度類(lèi)型呢？請(qǐng)明示，謝謝
我來(lái)回答
類(lèi)似推薦
- 近似數(shù)1.69萬(wàn)有幾個(gè)有效數(shù)字?為什么?
- 12.034保留三個(gè)有效數(shù)字,0.0002197保留四個(gè)有效數(shù)字,74995保留四個(gè)有效數(shù)字0.020654保留六個(gè)有效數(shù)字.
- 有效數(shù)字.比如0.02002.它的有效數(shù)字是2,0,0,2還是2,0,2
- 物理實(shí)驗(yàn)有效數(shù)字修約問(wèn)題：tan73°16'有幾個(gè)有效數(shù)字啊?
- 近似數(shù)和有效數(shù)字題：258精確到哪一位有幾個(gè)有效數(shù)字
- 桃樹(shù)的五分之三和梨樹(shù)的九分之四相等,梨樹(shù)比桃樹(shù)多42棵,兩棵樹(shù)各多少棵
- 諸兒競(jìng)走取之,唯戎不動(dòng).意思
- 28克的銅與足量的濃硝酸充分反應(yīng)后,求1.能制的標(biāo)準(zhǔn)狀況下二氧化氮多少升?2.被還原的硝酸的物質(zhì)的量是
- 學(xué)如逆水行舟,不進(jìn)則退.用英文寫(xiě)?
- commodity
- 某型號(hào)的熱得快接到220v,5a,10min電流所做的功.若接到11v的電源,同樣時(shí)間,做的功
- 有一種小油壺，最多能裝汽油3/2升，要裝35升汽油，至少需要_個(gè)這樣的油壺．
猜你喜歡
- 1把一根木材鋸成6段,共用了12分鐘,平均據(jù)下一段的時(shí)間是12分鐘的幾分之幾?
- 21.(x-y)^2-4(x-y+3)
- 3震級(jí)與地震烈度的區(qū)別
- 4求一篇80個(gè)單詞左右的英語(yǔ)作文 題目最好是介紹我的房間
- 5what a funny story it is（改成同義句）
- 6there are towers a____the ehds of the bridge.
- 7次氯酸鈣次氯酸鈉本身是否具有漂白性
- 8sally is looking at the the plane (和朋友一起）
- 9算式中間一條豎線是什么意思?
- 10一只青蛙在井底.井深10米,青蛙白天往上爬3米,晚上向下滑2米,問(wèn)青蛙幾天爬上來(lái)?
- 11《誰(shuí)與我同行》閱讀短文答案
- 12除了又香又甜這個(gè)詞語(yǔ),還有沒(méi)有別的又什么,回答的時(shí)候就給我弄3個(gè)就可以了.