相続分の返金について

まず、立退き料900万円の本来の受領権者について、いつから借地契約が貴殿名義になったのか、立退き料の対価算定の基礎としていつの時点からの契約を基準としているのか、基準となる期間の地代は全額貴殿が支払っていたといえるのか、等の諸事情によります。
地主との間で、100％貴殿自身との契約の対価として900万円が支払われたのであれば貴殿が本来全額受領可能と解する余地はありますが、お父様やお祖父様の代からの利用に関する謝礼的な意味合いや建物の買取の趣旨を含むのであれば（建物買取請求権に関する借地借家法13条参照）、貴殿自身との契約の対価が900万円のうちどれぐらいの割合を含むのか明らかにする必要があります。
もし、弟さんに300万円の返還請求を行なうのであれば、900万円の具体的な内訳等について明らかにした上で、誤った前提に基づき300万円の支払がなされた事実や弟さんの認識等を立証する必要があります。
ただ、仮に認められたとしても一部に限定されるのではないかと思います。

そうしたところ口頭で、亡父の相続は放棄すると言っていた弟から、借地権も相続する権利があるのだからと言われ金300万円をあげてしまいました。（書面取り交わしなし）
お金も入用なので、返金してもらえないかと思っていますが、返してもらえるでしょうか？

その合意次第ですね。
主張は検討できます。
元の弟さんの主張は、法的には無理があるでしょう。

もっとも、贈与や示談などでの合意がされており、それが証明されたりすれば、苦しい可能性もあります。