お友達の自転車のライトを壊してしまいました。

宜しくお願い致します。
昨日息子（小4）がお友達の自転車を借りて乗らせていただいた後、停める際に倒してしまいライトが破損してしまったそうです。
その事でお友達の保護者様から担任の先生へ連絡が入り、本日私の所に話が伝わりました。
ライトは自転車保険で直せるから弁償はしなくて良いとの事でした。
しかし何もお詫びをしないのは申し訳ないので、謝罪の電話を入れてから菓子折りと現金を持ってお伺いしようかと考えていますが、その対応で良いでしょうか。
弁償しなくて良いとおっしゃられてる以上現金はお渡ししない方が失礼にあたらないでしょうか。
皆様のお知恵をお貸し下さい。