子供が万引き未遂

経験者の方、アドバイス欲しいです、本当に悩んでいます。
小1息子がスーパーで店内商品の消しゴムをポケットに入れていました。
どのように解決されましたか？

かなり小さい頃から極度の収集癖のようなものがあり、ヨチヨチ頃は道に落ちている石やゴミなど持ち帰ろうとしていました。その都度説明して禁止してきましたが、バレると持って帰らないと思ってしまったようで、隠すようになりました。
幼稚園でも、何度かシールなどを持ち帰り隠し持っていたので、息子と頭下げにも行っています。
小学校の借り物（忘れた時に先生に借りた文房具や図書の本まで）も返さず隠すといったことが何度かありました。

言い訳をするし隠すので、本人にコレは悪い事という認識は強烈にあるようです。
なのにこの状態です。

もう正直悲しいしショックだし、子供を受け入れられないです。
どのように指導教育していけばいいのでしょうか。
経験者の方、アドバイスください。