コンピュータ科学において、ロバストネスとは、コンピュータシステムが実行中のエラーや誤った入力に対処できる能力のことである。これは、ロバストプログラミング、ロバスト機械学習、ロバストネットワーク設計など、多くの領域を包含する。ファジングなどの形式的な技法は、無効または予期しない入力を用いたテストを伴うため、ロバストネスを実証する上で不可欠である。あるいは、意図的なフォールトインジェクションを用いてロバストネスをテストすることもでき、様々な商用製品がソフトウェア解析のロバストネステストを実施している。
あらゆる障害発生箇所を網羅するロバストなシステムを構築することは、可能な入力と入力の組み合わせが膨大であるため困難である。全ケースの網羅的テストは非現実的であるため、開発者はテストケースを一般化する。例えば、整数入力をテストする際、開発者は負の数、ゼロ、正の数を選択して実数全体の集合を代表させることがある。この方法はより効率的であるが、失敗しやすい。テストケースの一般化は、無効なユーザー入力による障害に対処する技法の一つであるが、システムはネットワーク切断などの他の理由でも失敗する可能性がある。いずれにせよ、複雑なシステムはあらゆるエラーを優雅に処理すべきであり、最もロバストなシステムの一部は、進化可能で新しい状況に容易に適応できるものである。
ロバストネス達成における課題
プログラムやソフトウェアは通常、特定のタスクに焦点を当てたツールであり、インターネットや生物学的システムのように環境に適応するものよりも、汎用性や柔軟性に劣る。生物学的システムが適応を達成する方法の一つは冗長性である。例えば、人間は通常片方の腎臓だけで足りるが、もう一つあることで失敗の余地が生まれる。この原理はソフトウェアにも適用できるが、課題もある。盲目的にコードを追加することは、より多くのエラーを導入し、複雑性を増し、システムを理解しにくくするため、推奨されない。新しいコードは同等の機能を持つ必要があり、ある機能が壊れた場合に別の機能が置き換えられるように、手動または自動のソフトウェア多様性を用いる。これには、障害発生箇所にいつどのように対応するかを知るための追加のロジックが必要となり、システムの複雑性が増す。開発者は冗長性と複雑性のバランスを取らなければならない。現在、コンピュータ科学の実践は、ロバストなシステムの構築よりもスケーラビリティと効率性に焦点を当てる傾向があり、その理由の一部は、ロバストネスを一般的な方法で達成することが難しいためである。
ロバストプログラミング
ロバストプログラミングは、予期しない終了や予期しない動作に優雅に対処することに焦点を当てたスタイルであり、ユーザーがプログラムをデバッグするのに役立つ正確で曖昧さのないエラーメッセージを表示する。これはいくつかの原則に基づいている。
- パラノイア: プログラマーは、ユーザーがコードを壊そうとしていること、そして自身のコードも失敗したり誤動作したりする可能性があることを想定する。
- 愚かさ: プログラマーは、ユーザーが誤った、偽の、または不正な入力を試みると想定する。その結果、プログラマーはエラーコードを調べる必要のない、直感的で曖昧さのないエラーメッセージを返し、誤解を招かずに可能な限り正確であることを目指す。
- 危険な道具: ユーザーはライブラリ、データ構造、またはデータ構造へのポインタにアクセスできないようにすべきである。この情報は、バグを導入する可能性のある偶発的な変更を防ぐために隠蔽されるべきである。インターフェースが正しく構築されると、ユーザーは抜け穴を見つけることなくそれらを使用し、自身のコードのみに集中する。
- あり得ない: コードの変更により、「あり得ない」ケースが発生する可能性が導入されることがある。そのようなケースは可能性が非常に低いと想定され、開発者はそれに応じて処理を実装する。
ロバスト機械学習
Machine learningにおけるロバストネスは、通常、アルゴリズムの安定性を指す。機械学習アルゴリズムがロバストであると見なされるには、テストエラーがトレーニングエラーと一致しているか、データセットにノイズを追加した後もパフォーマンスが安定している必要がある。Deep learningの台頭に伴い、特に敵対的攻撃に対する脆弱性から、ニューラルネットワークのロバストネスへの関心が高まっている。この分野の研究には、モデルを摂動入力でトレーニングして回復力を向上させる敵対的トレーニングなどの技法がしばしば含まれる。この分野は、敵対的ロバストネスを研究したAleksander Madryや、誤り訂正出力符号とロバスト学習を探求したThomas G. Dietterichなどの研究者による研究と関連がある。
ロバストネットワーク設計
ロバストネットワーク設計とは、変動的または不確実な需要に直面したネットワークの設計を研究するものである。ソフトウェア設計と同様に、ネットワーク設計におけるロバストネスは、変化や入力の可能性が膨大であるため、その範囲は広い。これには、異なるトラフィック条件や障害下でもパフォーマンスと接続性を維持できるネットワークの作成が含まれる。この領域は、Amazon Web Services、Microsoft Azure、Google Cloudなどのクラウドインフラストラクチャプロバイダーにとって関連性が高く、変動する負荷や潜在的なハードウェア障害にもかかわらず、信頼性の高いサービスを保証する必要がある。
ロバストアルゴリズム
入力のエラーを許容するアルゴリズムが存在する。これらのアルゴリズムは、入力データにノイズ、外れ値、またはその他の不正確さが含まれている場合でも、正しいまたは許容可能な出力を生成するように設計されている。これは、実世界のデータが不完全であることが多いコンピュータビジョンや信号処理などの分野で特に重要である。ロバストアルゴリズムは、統計的手法を用いて外れ値を特定して重みを下げるか、ロバストプログラミングの原理と同様に、冗長性を考慮して設計される場合がある。
関連項目
- フォールトトレランス
- 防御的プログラミング
- 非機能要件