前回の記事で、「安全は創発性であり、創発性は要素の知識からは演繹されえない」、「演繹できないような問題に対するエンジニアリングは難しい」ということを書いた。 それを書きながら、AI（機械学習）のことを連想した。 機械学習の品質確認の難しさ 機械…

STAMPの基礎から応用までをカバーし、STAMPのバイブル的存在とも言える "Engineering a Safer World" 。そのタイトルは、じっくり眺めると、奥深いものがあるように感じられてくる。 著者のNancy Leveson教授に聞いたわけではなく、あくまでも個人的な、勝手…

システム理論では、「創発」と「階層」が重要な概念とされる。 "Engineering a Safer World" では、創発と階層に関して、次のような説明がある。 （引用①） A general model of complex systems can be expressed in terms of a hierarchy of levels of orga…

STAMP/STPAについて、初めて聞く人に説明するとき、UCAを識別する際に用いる４つのガイドワードのところで「なるほど」「面白い」という反応をされることが多いように思う。確かに分かりやすく、面白い部分ではあるが、ガイドワードの部分だけにあまり目を奪…

STAMP/STPAで、control structure diagram （制御構造図）を描く際、どのような control action を描けば良いかに悩むことが多い。control action は、STAMP/STPAの手順において重要なので、センスの悪い control action を描いてしまうと、分析の効率や質に…

STAMPの面白さについての個人的な理解の整理。 前回の続き。 システムの安全性は「創発性」である Nancy Levesonは、著書 "Engineering a Safer World" の中で、「信頼性はコンポーネントの特性であるのに対し、安全性はシステムの創発性（emergent property…

STAMP/STPA(※)の価値、意義、面白さについての個人的な理解。 ※STAMP/STPA：MITのNancy Leveson教授が考案し、提唱しているシステムの安全性分析手法。参考資料（IPAサイト） 信頼性と安全性の違い STAMP/STPAを理解するには、まず、「信頼性」と「安全性」…