浮動小数点数

浮動小数点数についての解説記事(紹介記事)

にほんブログ村キーワード

あなたもブログ記事を書いてこのキーワードを解説してみませんか?ブログ記事本文の先頭に下記のタグ( [浮動小数点数] ブログ村キーワード )を挿入することで、ブログ村があなたの記事を自動で収集し、この枠内に特別に表示いたします。

このキーワード用のタグ:

Yahoo!ブログ Yahoo!ブログ(Wiki文法) ※Yahoo!の方はどちらかチェックしてください

浮動小数点数を含むブログ記事

たぬきさん
  • PHPでの値と型について
  • で括る必要があります。(テキストエディタによって使われやすいクォーテーションがあるようなので要注意)単純に数値として扱う値については整数型を利用しましょう。"abc";"あいう";"123";"a";浮動小数点数型小数点を扱うための型で、浮動小数点数型といいます。他の言語では桁数によって型を分けて呼ぶこともありますが、PHPではそれらがひとまとめになっています。5.12;3.14;boolean型boolea...
  • たぬきの勉強等日記たぬきさんのプロフィール
ryoodさん
  • Nucleo DCO 作戦検討 その3
  • 50kHzに下げて計測。補間処理を入れる前は割り込み時の処理時間は2マイクロ秒程度でしたが(参考「Nucleo DCO 内蔵ADCで入力系のテスト」)5マイクロ秒にまで増えてしまいまいした。結構な量の浮動小数点数演算をしていますが、F767ZIのFPUの能力のおかげでなんとかなっています。ここまでFPUが強力だと、DDSではなく毎回波形を計算しても間に合うんじゃないかとも。サンプリングレート62.5kHz(サ...
  • 音源とオーディオの電子工作(予定)ryoodさんのプロフィール
puziroさん
  • 子供のプログラミング micro:bit(マイクロビット)で学ぶ 17
  • _analog(値)PWM 信号を端子に出力します。時間幅周期は供給電圧 value に比例します。 value には 0 (時間幅周期 0%)から 1023 (時間幅周期 100%)までの整数または浮動小数点数を指定できます。PWMについてはこちらを参照してください。出力電圧をパルスの幅で調整して0Vから3.3V出力できます。以下は、2と同じ回路でLEDを徐々に明るくしたり暗くするプログラム5.アナログ出力...
  • 子供のプログラミングpuziroさんのプロフィール
ryoodさん
  • Nucleo F767ZIでmbed 2とmbed OS 5の浮動小数点数演算の速度を比較
  • Nucleo F767ZIでオンラインコンパイラのmbed 2と、mbed-cliのmbed OS 5の浮動小数点数演算の処理時間を測定しました。テストプログラムhttps://github.com/ryood/Nucleo_DCO/tree/master/mbed/FloatingPoint_Test01測定結果...
  • 音源とオーディオの電子工作(予定)ryoodさんのプロフィール

にほんブログ村

>

キーワード

>

浮動小数点数について